Практика ML

Feature engineering

Работа с признаками

актуальноТекущий рабочий стандарт

На табличных данных грамотные признаки дают больший прирост, чем смена модели.

Ключевые тезисы

  • Начните с признаков, которые предложил бы эксперт предметной области.
  • Проверяйте каждый признак на доступность в момент инференса.
  • Итерация «новый признак → валидация → анализ ошибок» — основной рабочий цикл.
Тема также относится к главам:ДанныеПризнаки

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Рабочий цикл

Гипотеза → признак → валидация → анализ ошибок.

  1. Сформулировать гипотезу словами: «клиенты, у которых выросла частота обращений, чаще уходят».
  2. Реализовать признак и проверить его доступность в момент предсказания.
  3. Замерить прирост на кросс-валидации с фиксированным сидом.
  4. Посмотреть, какие ошибки исчезли, — это подсказывает следующую гипотезу.
На практике

Ведите журнал признаков: что пробовали, какой был прирост, почему отказались. Через месяц эта таблица сэкономит вам неделю повторных экспериментов.

2

Доменные признаки

То, что модель не выведет из сырых столбцов.

ОбластьПримеры сильных признаков
Скорингдолговая нагрузка, стабильность дохода, глубина просрочек
Ритейлдоля промо в покупках, регулярность визитов, ширина корзины
Антифродскорость смены устройств, отклонение от собственного профиля
Промышленностьотклонение от режимного окна, скорость износа
На практике

Полчаса разговора с экспертом предметной области регулярно дают больше, чем неделя автоматической генерации признаков.

Связанные темы

Признаки в реальном времени · Признаки: создание, отбор, важность

Feature Stores96%

Хранилища признаков · MLOps

Централизованное хранилище признаков, единое для обучения и онлайн-инференса.

Feature engineering96%

Конструирование признаков · Данные

Создание признаков, в которых закономерность становится линейно отделимой или просто более заметной для модели.

Online and Offline Features85%

Онлайн- и офлайн-признаки · Системный дизайн ML-сервисов

Часть признаков считается заранее, часть — в момент запроса. Расхождение между ними — главный источник инцидентов.

Batch and Streaming85%

Батч и стриминг · Инженерия данных

Обработка по расписанию против непрерывной обработки событий. Разные задержки, разные гарантии, разная стоимость.

Change Data Capture85%

Захват изменений (CDC) · Инженерия данных

Чтение журнала изменений базы вместо периодических полных выгрузок.

Encoding70%

Кодирование категорий · Данные

Перевод категориальных признаков в числа: one-hot, ordinal, target encoding, хеширование, эмбеддинги.

Feature selection70%

Отбор признаков · Данные

Убираем шумные и избыточные признаки, чтобы снизить переобучение, ускорить инференс и упростить интерпретацию.

Feature importance70%

Важность признаков · Интерпретируемость моделей

Оценка вклада признаков в предсказания модели — первый шаг к пониманию её логики.

Permutation Importance70%

Перестановочная важность · Интерпретируемость моделей

Признак перемешивается, и измеряется падение качества модели — модельно-независимый и честный подход.

Topological features70%

Топологические признаки · Топологический анализ данных

Векторизация топологии: энтропия персистентности, суммарная длина жизни, числа Бетти, persistence images.