09 · Элективы9.3–9.4 · Data Quality, lineage и security9.4.2средний

Governance и model cards

Зачем это нужно

Модель в production должна быть не только точной, но и понятной организации: кто за неё отвечает, где допустимо применять результат, кто одобрил выпуск и как остановить модель. Model card собирает этот минимум в одном месте.

Основные идеи

Model card — паспорт модели. Полезные разделы:

Раздел Пример
Назначение приоритизация лидов, не автоматический отказ
Владелец product owner и технический owner
Данные и период snapshot, источники, ограничения
Метрики и ограничения recall, известные bias и failure modes
Deploy и мониторинг версия, SLO, drift-сигналы
Решение о выпуске approver, дата, ссылка на evidence

Approval отделяет готовность артефакта от разрешения использовать его в конкретном контуре. Для высокорисковых моделей нужны роли product, ML, security/legal/compliance — состав определяется политикой организации.

Retirement планируется заранее: условия отключения, владелец, архивирование артефактов и срок хранения. «Модель никто не трогал два года» не означает, что она безопасна.

PII и 152-ФЗ. На высоком уровне: персональные данные требуют законного основания, минимизации, контроля доступа, цели обработки и сроков хранения. Этот курс не заменяет юридическую оценку; при работе с PII подключайте специалистов организации.

Как это выглядит на практике

Перед production release churn-модели реестр требует model card: owner, dataset version, offline-метрики, проверку сегментов, ссылку на security review и rollback plan. Если owner увольняется, ownership передаётся формально; без владельца модель не получает новые релизы.

Что сделать после занятия

  • Создайте черновик model card для учебной модели.

  • Укажите owner, approver и условие retirement.

  • Отметьте, какие данные и логи могут содержать PII.

Официальные материалы