Шкала от ручных ноутбуков до полностью автоматического цикла обучения и выката — способ понять, где команда сейчас.
Ключевые тезисы
- Уровень 0 — всё вручную: обучение в ноутбуке, файлом, воспроизвести прошлый результат нельзя.
- Уровень 1 — автоматизирован обучения: один и тот же код готовит данные, учит и валидирует модель.
- Уровень 2 — для моделей: в проде с алертами и автоматическое по факту деградации.
Подробный разбор
| Уровень | Обучение | Выкат | |
|---|---|---|---|
| 0 — ручной | ноутбук на машине автора | файл модели руками | прошлый результат не воспроизводится |
| 1 — автоматизированный | скриптом или оркестратором, с версиями данных | по кнопке, с валидационными гейтами | , релиз вручную |
| 2 — для моделей | по триггеру, включая деградацию в проде | автоматически после прохождения гейтов | с алертами и автоматическое |
- Мониторинг поведения модели и входных данных с автоматическими алертами — обязательный второго уровня: без него автоматизация выката опасна.
- Автоматическое переобучение при обнаружении деградации через CI/CD-пайплайн — второй такой .
- , кода и моделей — предпосылка обоих: без него невозможно ни сравнить, ни откатить.
- Валидационные гейты обязательны: новая модель выкатывается, только если не хуже текущей на общем тесте.
Уровень зрелости — не самоцель. Для одной модели, обновляемой раз в квартал, второй уровень избыточен: стоимость автоматизации не окупится. Шкала нужна, чтобы осознанно выбирать, что автоматизировать следующим.
Видеолекции
Записи университетских курсов, где эта тема звучит. Где у записи есть тайм-коды, ссылка открывает её с нужной секунды; где их не проставили — с начала.
Связанные темы
Зрелость ML-процесса
ML Pipelines80%
ML-пайплайны · MLOpsОформление обучения как воспроизводимой последовательности шагов вместо разрозненных ноутбуков.
CI/CD for ML80%
CI/CD для ML · MLOpsАвтоматизация проверок и выката: тесты кода, тесты данных, обучение и релиз модели по одной кнопке.
Monitoring80%
Мониторинг · MLOpsНаблюдение за инфраструктурой, данными и качеством предсказаний после релиза.
Drift Detection80%
Детекция дрейфа · MLOpsОбнаружение расхождения между данными обучения и данными прода.
Retraining80%
Переобучение моделей · MLOpsРегулярное обновление модели на свежих данных по расписанию или по триггеру.
Data Versioning80%
Версионирование данных · MLOpsДанные меняются чаще кода — без их версий эксперимент не воспроизвести.
Спрашивают на собеседовании: ВТБ — Риск-модели, Т1 — Корпоративный ML, Росатом — Промышленный ИИ.
Глава «MLOps» последний раз правилась . Нашли ошибку — напишите.