Model Governance та Compliance

Model governance забезпечує що ML системи розробляються, деплояться та моніторяться відповідально. Це охоплює документацію, workflow затвердження, audit trails та регуляторну відповідність. Оскільки ML стає регульованим (EU AI Act, FDA guidance, фінансові регуляції), governance перетворюється з best practice на юридичну вимогу.

Де використовується

Governance essential у регульованих та high-stakes доменах:

• Фінансові послуги: Кредитні рішення, трейдинг, fraud detection
• Охорона здоров'я: Діагностичні інструменти, рекомендації лікування
• Страхування: Underwriting, обробка претензій
• Уряд: Рішення про пільги, правоохоронні органи
• HR: Найм, оцінка продуктивності
• Будь-яка регульована галузь: Автомобілі, фармацевтика, енергетика

Регуляції: EU AI Act, GDPR, ECOA, SR 11-7, FDA guidance, EEOC.

Компоненти Governance

Типові вимоги

Що ви робите на практиці

1. Визначте risk tiers моделей - High, medium, low на основі впливу
2. Створіть templates документації - Model cards, datasheets
3. Побудуйте approval workflows - Хто затверджує який tier
4. Імплементуйте model registry - Центральний каталог з metadata
5. Налаштуйте version control - Моделі, дані, код all versioned
6. Встановіть testing requirements - Per-tier валідація
7. Деплойте моніторинг - Performance, fairness, drift
8. Створіть audit trails - Immutable logs всіх дій
9. Плануйте incident response - Playbooks для failures
10. Тренуйте команди - Governance процеси та відповідальності

Model Cards

Стандартний формат документації для ML моделей:

# model_card.yaml
model_details:
  name: "Credit Risk Scorer v2.3"
  version: "2.3.0"
  type: "Binary classification (XGBoost)"
  owner: "Risk Analytics Team"
  contact: "risk-ml@company.com"
  created: "2026-01-15"
  last_updated: "2026-01-30"

intended_use:
  primary_uses:
    - "Рішення про кредитний ліміт для існуючих клієнтів"
  out_of_scope_uses:
    - "Залучення нових клієнтів"
    - "Fraud detection"
  users:
    - "Кредитні рішення системи"
    - "Ризик аналітики"

training_data:
  description: "12 місяців кредитних заявок та результатів"
  size: "2.4M зразків"
  features: "145 features після engineering"
  label: "90-day default indicator"
  collection_period: "2025-01 до 2025-12"
  known_limitations:
    - "Недопредставлені сільські клієнти"
    - "Економічні умови могли змінитися"

evaluation:
  metrics:
    - name: "AUC-ROC"
      value: 0.82
      confidence_interval: "[0.81, 0.83]"
  fairness_evaluation:
    - attribute: "Вікова група"
      metric: "Equal opportunity difference"
      value: 0.03

Model Registry

from dataclasses import dataclass
from datetime import datetime
from typing import List, Dict, Optional

@dataclass
class ModelVersion:
    version: str
    created_at: datetime
    created_by: str
    model_path: str
    metrics: Dict[str, float]
    status: str  # development, staging, production, retired
    approved_by: Optional[str] = None
    approved_at: Optional[datetime] = None

class ModelRegistry:
    def __init__(self, storage_backend):
        self.storage = storage_backend
        self.models = {}

    def register_model(self, name: str, version: ModelVersion):
        """Реєстрація нової версії моделі."""
        if name not in self.models:
            self.models[name] = []
        self.models[name].append(version)
        self._log_event("register", name, version.version)

    def promote_to_production(self, name: str, version: str, approver: str):
        """Promote моделі до production з затвердженням."""
        model = self._get_version(name, version)
        if model.status != "staging":
            raise ValueError("Має пройти staging перед production")
        model.status = "production"
        model.approved_by = approver
        model.approved_at = datetime.now()
        self._log_event("promote_production", name, version, approver)

    def retire_model(self, name: str, version: str, reason: str):
        """Retire версії моделі."""
        model = self._get_version(name, version)
        model.status = "retired"
        self._log_event("retire", name, version, reason=reason)

Approval Workflows

from enum import Enum
from typing import List

class RiskTier(Enum):
    LOW = "low"       # Без human approval
    MEDIUM = "medium"  # Team lead approval
    HIGH = "high"      # Committee approval

class ApprovalWorkflow:
    def __init__(self):
        self.approval_rules = {
            RiskTier.LOW: [],
            RiskTier.MEDIUM: ["team_lead"],
            RiskTier.HIGH: ["team_lead", "risk_committee", "legal"]
        }

    def get_required_approvers(self, risk_tier: RiskTier) -> List[str]:
        return self.approval_rules[risk_tier]

    def check_approval_status(self, model_name: str, approvals: List[dict], 
                               risk_tier: RiskTier) -> dict:
        required = set(self.approval_rules[risk_tier])
        approved = {a["role"] for a in approvals if a["decision"] == "approve"}
        pending = required - approved
        rejected = [a for a in approvals if a["decision"] == "reject"]

        return {
            "approved": len(pending) == 0 and len(rejected) == 0,
            "pending_approvers": list(pending),
            "rejected": len(rejected) > 0
        }

Audit Trail

from datetime import datetime
import hashlib
import json

class AuditLog:
    def __init__(self, storage):
        self.storage = storage

    def log_model_event(self, event_type: str, model_id: str, 
                        user: str, details: dict):
        """Створення immutable audit entry."""
        entry = {
            "timestamp": datetime.utcnow().isoformat(),
            "event_type": event_type,
            "model_id": model_id,
            "user": user,
            "details": details,
            "previous_hash": self._get_last_hash()
        }
        entry["hash"] = self._compute_hash(entry)
        self.storage.append(entry)

    def _compute_hash(self, entry: dict) -> str:
        content = json.dumps(entry, sort_keys=True, default=str)
        return hashlib.sha256(content.encode()).hexdigest()

    def verify_chain(self) -> bool:
        """Verify audit log integrity."""
        entries = self.storage.get_all()
        for i, entry in enumerate(entries):
            expected_prev = entries[i-1]["hash"] if i > 0 else "genesis"
            if entry["previous_hash"] != expected_prev:
                return False
        return True

Метрики оцінки

Типові помилки та чек-лист

• [ ] Documentation debt: Моделі deployed без cards
• [ ] Shadow models: Незареєстровані моделі в production
• [ ] Missing approvals: Deployed без proper sign-off
• [ ] Incomplete audit trails: Пропуски в logging
• [ ] Stale documentation: Model cards не оновлені

Чек-лист для продакшену

Перед деплоєм: - [ ] Model card completed - [ ] Отримані required approvals - [ ] Testing requirements met - [ ] Моніторинг configured

Після деплою: - [ ] Audit trail verified - [ ] Моніторинг active - [ ] Incident response plan in place - [ ] Periodic review scheduled

Інструменти та стек

Приклад міні-кейсу

Сценарій: Імплементація governance для кредитних рішень.

Підхід: - Three-tier risk classification - Model cards для всіх production models - Automated testing gates - Committee approval для high-risk

Результати: - 100% documentation coverage - Passed regulatory audit - 3-day average approval time (було 3 тижні)

Пов'язані сторінки

• Індекс: ML Field Guide
• ML Fairness
• Model Monitoring
• MLOps Foundations

Додаткові матеріали

• Model Cards Paper
• EU AI Act Overview
• SR 11-7 Model Risk Management

Спробуйте наживо

Дослідіть пов'язану модель на практиці: відкрийте AI Governance Policy Impact: Speed-Adjustable Model і змінюйте параметри під час роботи. Усе лишається у вашому браузері.