КабинетПоиск
Интерпретируемость моделей

ICE

ICE-кривые

актуальноТекущий рабочий стандарт

Направления: Доверенный ИИ · Объяснимый ИИ

Individual Conditional Expectation: та же зависимость, но отдельной линией для каждого объекта.

Ключевые тезисы

  • Вскрывает гетерогенность, которую усреднение PDP прячет.
  • Расходящиеся кривые — прямой взаимодействий.
  • PDP — это просто среднее всех ICE-кривых.

Подробный разбор

2 подтемы — объяснения, формулы, примеры и интерактивные графики.

Если у половины клиентов рост увеличивает предсказание, а у другой половины — уменьшает, PDP покажет почти плоскую линию. ICE-кривые сразу вскроют расхождение: линии разойдутся веером.

  • PDP — это среднее всех ICE-кривых.
  • Расходящиеся ICE-кривые = взаимодействие с другим .
  • Центрированные ICE (c-ICE) выравнивают старт кривых и делают различия нагляднее.

КартинаИнтерпретация
кривые параллельныэффект одинаков для всех — PDP достаточно
кривые расходятся вееромэффект зависит от других — есть взаимодействие
часть кривых растёт, часть падаетразнонаправленные группы; PDP покажет ложный ноль
На практике

Для больших выборок рисуют подвыборку из 100–200 кривых с прозрачностью, иначе график превращается в сплошную заливку.

Связанные темы

Объяснение предсказаний

SHAP85%

SHAP · Интерпретируемость моделей

Распределение вклада признаков на основе значений Шепли из теории игр — с гарантиями аддитивности и согласованности.

LIME85%

LIME · Интерпретируемость моделей

Локальная аппроксимация сложной модели простой линейной в окрестности конкретного объекта.

Partial Dependence85%

Partial Dependence Plot · Интерпретируемость моделей

Показывает средний эффект признака на предсказание при усреднении по остальным признакам.

Counterfactual explanations85%

Контрфактические объяснения · Интерпретируемость моделей

Минимальное изменение входа, которое меняет решение модели: «что нужно поменять, чтобы кредит одобрили».

Permutation Importance85%

Перестановочная важность · Интерпретируемость моделей

Признак перемешивается, и измеряется падение качества модели — модельно-независимый и честный подход.

Logistic Regression85%

Логистическая регрессия · Классическое машинное обучение

Линейная модель классификации: сигмоида переводит линейную комбинацию признаков в вероятность класса.

Следующий шагДальше по связи: SHAPРаспределение вклада признаков на основе значений Шепли из теории игр — с гарантиями аддитивности и согласованности.Перейти →
← Partial DependenceCounterfactual explanations →

Глава «Интерпретируемость моделей» последний раз правилась . Нашли ошибку — напишите.