9.4.2 · блок 9
Governance и model cards
Governance и model cards
Зачем это нужно
Модель в production должна быть не только точной, но и понятной организации: кто за неё отвечает, где допустимо применять результат, кто одобрил выпуск и как остановить модель. Model card собирает этот минимум в одном месте.
Основные идеи
Model card — паспорт модели. Полезные разделы:
| Раздел | Пример |
|---|---|
| Назначение | приоритизация лидов, не автоматический отказ |
| Владелец | product owner и технический owner |
| Данные и период | snapshot, источники, ограничения |
| Метрики и ограничения | recall, известные bias и failure modes |
| Deploy и мониторинг | версия, SLO, drift-сигналы |
| Решение о выпуске | approver, дата, ссылка на evidence |
Approval отделяет готовность артефакта от разрешения использовать его в конкретном контуре. Для высокорисковых моделей нужны роли product, ML, security/legal/compliance — состав определяется политикой организации.
Retirement планируется заранее: условия отключения, владелец, архивирование артефактов и срок хранения. «Модель никто не трогал два года» не означает, что она безопасна.
PII и 152-ФЗ. На высоком уровне: персональные данные требуют законного основания, минимизации, контроля доступа, цели обработки и сроков хранения. Этот курс не заменяет юридическую оценку; при работе с PII подключайте специалистов организации.
Как это выглядит на практике
Перед production release churn-модели реестр требует model card: owner, dataset version, offline-метрики, проверку сегментов, ссылку на security review и rollback plan. Если owner увольняется, ownership передаётся формально; без владельца модель не получает новые релизы.
Что сделать после занятия
- [ ] Создайте черновик model card для учебной модели.
- [ ] Укажите owner, approver и условие retirement.
- [ ] Отметьте, какие данные и логи могут содержать PII.