Показывает средний эффект на предсказание при усреднении по остальным признакам.
Ключевые тезисы
- Хорошо выявляет нелинейности и точки насыщения.
- Искажается при сильной (ALE-графики надёжнее).
- Двумерная версия визуализирует взаимодействие пары .
Подробный разбор
- объект: вектор признаков
- число объектов в выборке
- суммирование по всем перечисленным элементам
Если коррелированы, PDP подставляет нереалистичные комбинации (рост 150 см и вес 120 кг) — результат искажается. ALE-графики решают это, усредняя локальные изменения внутри узких интервалов.
ALE (Accumulated Local Effects) считает не средний эффект по всем объектам, а средние локальные изменения внутри узких интервалов значений , и накапливает их. Нереалистичные комбинации при этом не подставляются.
- математическое ожидание — среднее по распределению
- объект: вектор признаков
- интегрирование — непрерывный аналог суммы
- частная производная — чувствительность к одному аргументу
Связанные темы
Объяснение предсказаний · Интерпретируемая статистика
SHAP85%
SHAP · Интерпретируемость моделейРаспределение вклада признаков на основе значений Шепли из теории игр — с гарантиями аддитивности и согласованности.
LIME85%
LIME · Интерпретируемость моделейЛокальная аппроксимация сложной модели простой линейной в окрестности конкретного объекта.
ICE85%
ICE-кривые · Интерпретируемость моделейIndividual Conditional Expectation: та же зависимость, но отдельной линией для каждого объекта.
Counterfactual explanations85%
Контрфактические объяснения · Интерпретируемость моделейМинимальное изменение входа, которое меняет решение модели: «что нужно поменять, чтобы кредит одобрили».
Permutation Importance85%
Перестановочная важность · Интерпретируемость моделейПризнак перемешивается, и измеряется падение качества модели — модельно-независимый и честный подход.
Logistic Regression85%
Логистическая регрессия · Классическое машинное обучениеЛинейная модель классификации: сигмоида переводит линейную комбинацию признаков в вероятность класса.
Correlation75%
Корреляция · Математический справочникНормированная мера связи двух величин: ковариация, поделённая на разброс каждой из них.
Generalized Additive Models75%
Обобщённые аддитивные модели · Классическое машинное обучениеСумма гладких функций от отдельных признаков: нелинейность есть, а интерпретируемость линейной модели сохраняется.
Linear Regression75%
Линейная регрессия · Классическое машинное обучениеПредсказывает число как взвешенную сумму признаков. Самый интерпретируемый бейзлайн и основа для более сложных моделей.
Feature selection75%
Отбор признаков · ДанныеУбираем шумные и избыточные признаки, чтобы снизить переобучение, ускорить инференс и упростить интерпретацию.
Data Visualization75%
Визуализация данных · ДанныеГрафики как инструмент разведки: увидеть распределения, связи и аномалии до того, как обучена первая модель.
Глава «Интерпретируемость моделей» последний раз правилась . Нашли ошибку — напишите.