Generalized Additive Models

Сумма гладких функций от отдельных : нелинейность есть, а интерпретируемость линейной модели сохраняется.

g (E [y]) = β_{0} + f_{1} (x_{1}) + f_{2} (x_{2}) + \dots + f_{p} (x_{p})

Обозначения

$E [\cdot]$ математическое ожидание — среднее по распределению
$β$ коэффициент сглаживания (инерции)
$y$ истинное значение целевой переменной
$x$ объект: вектор признаков
$p$ вероятность (или плотность распределения)

Вместо коэффициента при признаке — целая функция от него; связь с откликом задаёт функция связи g

Ключевые тезисы

Каждый предиктор входит своей сглаживающей функцией (сплайном), эффекты складываются — вклад виден на графике.
Точность близка к бустингу на задачах со слабыми взаимодействиями и заметно выше .
EBM (explainable boosting machine) — современная реализация GAM на деревьях с опциональными парными взаимодействиями.

Подробный разбор

2 подтемы — объяснения, формулы, примеры и интерактивные графики.

g (E [y ∣ x]) = β_{0} + j = 1 \sum p f_{j} (x_{j})

Обозначения

$E [\cdot]$ математическое ожидание — среднее по распределению
$β$ коэффициент сглаживания (инерции)
$y$ истинное значение целевой переменной
$x$ объект: вектор признаков
$p$ вероятность (или плотность распределения)
$\sum$ суммирование по всем перечисленным элементам

Каждое

f_{j}

— гладкая функция (сплайн или деревьев по одному признаку)

Гладкость $f_{j}$ контролируется штрафом за кривизну: слишком гибкая функция повторит шум, слишком жёсткая выродится в прямую. Параметр сглаживания подбирают или обобщённой кросс-валидацией (GCV).

Эффект каждого рисуется отдельным графиком — это и есть объяснение модели, а не его приближение.
Взаимодействия по умолчанию отсутствуют; нужные добавляют явно членами $f_{j k} (x_{j}, x_{k})$ .
pyGAM, mgcv в R, а также EBM из interpret — рабочие реализации.

Модель	Нелинейность	Взаимодействия	Интерпретируемость
	нет (только вручную)	нет	полная
GAM	да, по каждому признаку	только заданные явно	полная: график на
	да	автоматически	косвенная: , PDP

На практике

В регуляторных областях (скоринг, страхование, медицина) GAM часто оказывается практическим оптимумом: качество почти как у , а эффект каждого можно показать и защитить перед проверяющим.

Тема также относится к главам:Интерпретируемость моделейПрозрачные модели · Зависимости и эффекты

Связанные темы

Интерпретируемая статистика

Следующий шагДальше по связи: CorrelationНормированная мера связи двух величин: ковариация, поделённая на разброс каждой из них.Перейти →

Глава «Классическое машинное обучение» последний раз правилась 27 августа 2026 г.. Нашли ошибку — напишите.

Ключевые тезисы

Подробный разбор

Связанные темы

Correlation75%

Linear Regression75%

Partial Dependence75%

Feature selection75%

Data Visualization75%

Generalized Additive Models

Ключевые тезисы

Подробный разбор

1Как устроена модельЛинейная регрессия, у которой вместо коэффициентов — функции.

2Против линейной регрессии и бустингаМесто GAM — между ними, и оно шире, чем кажется.

Связанные темы

Correlation75%

Linear Regression75%

Partial Dependence75%

Feature selection75%

Data Visualization75%