Heavy Tails — Тяжёлые хвосты

Распределения, у которых экстремальные значения не являются пренебрежимо редкими. Именно они ломают привычные оценки и метрики.

Ключевые тезисы

Среднее и дисперсия становятся неустойчивыми: каждая новая наблюдённая точка может изменить оценку.
Доверительные интервалы на основе ЦПТ занижают риск.
Практика: работать с медианами и квантилями, логарифмировать, использовать устойчивые метрики.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

Как распознать тяжёлый хвост

Четыре простые проверки.

Гистограмма в лог-лог осях: прямая линия в хвосте — признак степенного закона.
Доля суммы, приходящаяся на топ-1% объектов: если она десятки процентов, хвост тяжёлый.
Устойчивость среднего: считайте среднее по нарастающей выборке — оно не должно скакать.
Отношение максимума к медиане: значения в сотни и тысячи раз — явный сигнал.

показатель α2.50

среднееконечно

дисперсиябесконечна

P(x=50): степенное / нормальное2.6e+35

Показатель α2.50

Шкала

Сдвигайте α: при α ≤ 2 дисперсия перестаёт существовать, при α ≤ 1 — и среднее

Как моделировать

Практические стратегии.

Стратегия	Когда
Логарифмирование цели	цена, доход, длительность
Winsorize / клиппинг	выбросы — ошибки или несущественны
Квантильная регрессия	нужен интервал, а не точка
Отдельная модель для хвоста	крупные клиенты качественно другие
Метрики WAPE / MASE	нужна устойчивая оценка качества

Связанные темы

Распределения и их хвосты · Тяжёлые хвосты и риск · Предельные теоремы

Log-normal Distribution95%

Логнормальное распределение · Теория вероятностей и распределения

Величина, логарифм которой нормален. Возникает там, где эффекты перемножаются, а не складываются.

Power Law95%

Степенное распределение · Теория вероятностей и распределения

Плотность убывает как степень: редкие события встречаются намного чаще, чем предсказывает нормальный закон. Распределения Парето и Ципфа — его классические формы.

Normal Distribution80%

Нормальное распределение · Теория вероятностей и распределения

Колоколообразное распределение с двумя параметрами. Максимально энтропийное при заданных среднем и дисперсии — поэтому его берут «по умолчанию».

Poisson Distribution80%

Распределение Пуассона · Теория вероятностей и распределения

Число редких независимых событий за фиксированный интервал: заказы за час, отказы за сутки, клики за сессию.

Exponential Distribution80%

Экспоненциальное распределение · Теория вероятностей и распределения

Время между пуассоновскими событиями. Единственное непрерывное распределение без памяти.

Binomial & Bernoulli80%

Бернулли и биномиальное · Теория вероятностей и распределения

Один успех или число успехов в серии независимых испытаний — базовая модель конверсии и кликов.

Beta Distribution80%

Бета-распределение · Теория вероятностей и распределения

Распределение вероятности на отрезке [0,1] — естественный априор для конверсии и для многоруких бандитов.

Probability Distribution80%

Распределение вероятностей · Математический справочник

Закон, задающий вероятности значений случайной величины.

Probability80%

Теория вероятностей · Основы

Язык неопределённости: распределения, условные вероятности и теорема Байеса описывают, как данные порождаются и как обновлять убеждения.

Law of Large Numbers80%

Закон больших чисел · Теория вероятностей и распределения

Среднее по выборке сходится к математическому ожиданию при росте числа наблюдений.

Central Limit Theorem80%

Центральная предельная теорема · Теория вероятностей и распределения

Сумма большого числа независимых слагаемых со сравнимым вкладом распределена приближённо нормально.

Series and Convergence80%

Ряды и сходимость · Математический анализ

Когда бесконечная сумма имеет конечное значение и с какой скоростью алгоритм приближается к ответу.

Limits and Continuity80%

Пределы и непрерывность · Математический анализ

Предел описывает, к чему стремится функция вблизи точки. На этом понятии держатся производная, интеграл и вся теория сходимости алгоритмов.

Confidence intervals80%

Доверительные интервалы · Оценка моделей

Показывают точность оценки метрики; одно число без интервала мало о чём говорит.

Bootstrap80%

Бутстрэп · Оценка моделей

Многократная выборка с возвращением: даёт распределение метрики и доверительные интервалы без предположений о нормальности.

Statistics80%

Статистика · Основы

Как от выборки перейти к выводам о генеральной совокупности: оценки, доверительные интервалы и проверка гипотез.

Extreme Value Theory75%

Теория экстремальных значений · Теория вероятностей и распределения

Аппарат для моделирования максимумов и хвостов: как оценить вероятность события, которого ещё не случалось.

Complex Systems75%

Сложные системы · Динамические системы и фракталы

Системы из множества взаимодействующих элементов, где коллективное поведение не сводится к сумме частей.

Self-similarity75%

Самоподобие · Динамические системы и фракталы

Свойство структуры повторять себя на разных масштабах — точно или статистически.

Scale-free Networks75%

Безмасштабные сети · Графы и сети

Сети, в которых распределение степеней вершин подчиняется степенному закону: немного «хабов» и очень много слабо связанных вершин.

Outliers75%

Выбросы · Данные

Наблюдения, резко отличающиеся от остальных. Они бывают ошибками измерения, а бывают самым ценным сигналом.

MAPE75%

Средняя абсолютная процентная ошибка · Метрики

Относительная ошибка в процентах — удобна для сравнения рядов разного масштаба.