Individual Conditional Expectation: та же зависимость, но отдельной линией для каждого объекта.
Ключевые тезисы
- Вскрывает гетерогенность, которую усреднение PDP прячет.
- Расходящиеся кривые — прямой признак взаимодействий.
- PDP — это просто среднее всех ICE-кривых.
Подробный разбор
2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.
1Зачем смотреть отдельные кривые
Среднее может скрывать противоположные эффекты.
Если у половины клиентов рост признака увеличивает предсказание, а у другой половины — уменьшает, PDP покажет почти плоскую линию. ICE-кривые сразу вскроют расхождение: линии разойдутся веером.
- PDP — это среднее всех ICE-кривых.
- Расходящиеся ICE-кривые = взаимодействие с другим признаком.
- Центрированные ICE (c-ICE) выравнивают старт кривых и делают различия нагляднее.
2Как читать веер ICE-кривых
Три характерные картины.
| Картина | Интерпретация |
|---|---|
| кривые параллельны | эффект одинаков для всех — PDP достаточно |
| кривые расходятся веером | эффект зависит от других признаков — есть взаимодействие |
| часть кривых растёт, часть падает | разнонаправленные группы; PDP покажет ложный ноль |
Для больших выборок рисуют подвыборку из 100–200 кривых с прозрачностью, иначе график превращается в сплошную заливку.
Связанные темы
Объяснение предсказаний
SHAP85%
SHAP · Интерпретируемость моделейРаспределение вклада признаков на основе значений Шепли из теории игр — с гарантиями аддитивности и согласованности.
LIME85%
LIME · Интерпретируемость моделейЛокальная аппроксимация сложной модели простой линейной в окрестности конкретного объекта.
Partial Dependence85%
Partial Dependence Plot · Интерпретируемость моделейПоказывает средний эффект признака на предсказание при усреднении по остальным признакам.
Counterfactual explanations85%
Контрфактические объяснения · Интерпретируемость моделейМинимальное изменение входа, которое меняет решение модели: «что нужно поменять, чтобы кредит одобрили».
Permutation Importance85%
Перестановочная важность · Интерпретируемость моделейПризнак перемешивается, и измеряется падение качества модели — модельно-независимый и честный подход.
Logistic Regression85%
Логистическая регрессия · Классическое машинное обучениеЛинейная модель классификации: сигмоида переводит линейную комбинацию признаков в вероятность класса.