Часть признаков считается заранее, часть — в момент запроса. Расхождение между ними — главный источник инцидентов.
Ключевые тезисы
- Тяжёлые агрегаты считают батчем и кладут в быстрое хранилище (Redis, Aerospike).
- Признаки запроса (текущая корзина, устройство) считаются онлайн.
- Определение признака должно быть одно на оба пути — иначе training/serving skew неизбежен.
Подробный разбор
2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.
1Что считать заранее, а что на лету
Разделение по стоимости и свежести.
| Тип признака | Где считается | Пример |
|---|---|---|
| Долгие агрегаты | батч, кладём в KV-хранилище | средний чек за 90 дней |
| Свежие агрегаты | стриминг | число операций за последний час |
| Контекст запроса | онлайн | устройство, время суток, корзина |
| Статические атрибуты | батч | сегмент, тариф |
2Как не допустить skew
Одно определение признака на оба пути.
- Опишите признак один раз в общей библиотеке или в feature store.
- Логируйте признаки, использованные при онлайн-предсказании.
- Регулярно сверяйте офлайн-пересчёт с залогированными значениями — расхождение больше допуска считается инцидентом.
Логирование признаков в момент запроса решает сразу две задачи: контроль skew и обучающая выборка, полностью соответствующая проду.
Связанные темы
Признаки в реальном времени
Feature Stores85%
Хранилища признаков · MLOpsЦентрализованное хранилище признаков, единое для обучения и онлайн-инференса.
Batch and Streaming85%
Батч и стриминг · Инженерия данныхОбработка по расписанию против непрерывной обработки событий. Разные задержки, разные гарантии, разная стоимость.
Change Data Capture85%
Захват изменений (CDC) · Инженерия данныхЧтение журнала изменений базы вместо периодических полных выгрузок.
Feature engineering85%
Конструирование признаков · ДанныеСоздание признаков, в которых закономерность становится линейно отделимой или просто более заметной для модели.
Feature engineering85%
Работа с признаками · Практика MLНа табличных данных грамотные признаки дают больший прирост, чем смена модели.