Практика ML

Baselines

Бейзлайны

актуальноТекущий рабочий стандарт

Простейшее решение, с которым сравнивается всё остальное: константа, правило, логистическая регрессия.

Ключевые тезисы

  • Без бейзлайна невозможно понять, есть ли польза от модели.
  • Хороший бейзлайн ставится за час и часто оказывается достаточным.
  • Бейзлайн заодно проверяет весь пайплайн от данных до метрики.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Лестница бейзлайнов

Поднимайтесь по ней, пока прирост окупает сложность.

  1. Константа: самый частый класс или среднее — задаёт нижнюю границу метрики.
  2. Правило эксперта: «если задолженность > X, отказать».
  3. Линейная модель на нескольких очевидных признаках.
  4. Бустинг со стандартными параметрами.
  5. И только потом — тонкая настройка, стекинг, нейросети.

Бейзлайн заодно проверяет весь конвейер: загрузку данных, разбиение, метрику, отчёт. Если что-то сломано, это выяснится за час, а не через две недели.

2

Константный бейзлайн

Число, ниже которого опускаться нельзя.

from sklearn.dummy import DummyClassifier, DummyRegressor
DummyClassifier(strategy="prior").fit(X_tr, y_tr).score(X_te, y_te)
DummyRegressor(strategy="median").fit(X_tr, y_tr)

Если ваша модель не обходит константу с запасом, значит либо признаки не несут сигнала, либо в пайплайне ошибка. Это первая проверка, которую стоит делать всегда.

Связанные темы

Рабочий цикл ML-инженера