Power Law

Плотность убывает как степень: редкие события встречаются намного чаще, чем предсказывает нормальный закон. Распределения Парето и Ципфа — его классические формы.

p (x) \propto x^{- α}, x \geq x_{m i n}

Что означает каждый компонент

$x^{- α}$ степенное убывание: хвост тяжёлый. При α ≤ 2 дисперсия бесконечна, при α ≤ 1 — и среднее
$x_{m i n}$ порог, начиная с которого закон работает: у малых значений поведение обычно другое

В лог-лог осях это прямая линия с наклоном −α

Ключевые тезисы

Правило 80/20: небольшая доля объектов даёт основную часть эффекта.
При $α \leq 2$ дисперсия бесконечна, при $α \leq 1$ — и среднее тоже.
На лог-лог графике степенной закон — прямая линия; это первый способ его распознать.

Тема также относится к главам:Математический справочникВероятность Динамические системы и фракталыФракталы · Связь с данными Графы и сетиСтруктура сетей

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

Где встречается

Список, который стоит держать в голове при анализе данных.

Явление	Что распределено степенно
Продажи	выручка по SKU и по клиентам
Веб	число ссылок на страницу, длительность сессий
Соцсети	число подписчиков, размер каскада репостов
Тексты	частота слов (закон Ципфа)
Инфраструктура	размер инцидента, длительность простоя
Города и компании	население, капитализация

показатель α2.50

среднееконечно

дисперсиябесконечна

P(x=50): степенное / нормальное2.6e+35

Показатель α2.50

Шкала

Переключите шкалу в лог-лог: степенное распределение становится прямой, нормальное — резко падающей кривой

Последствия для моделирования

Что ломается и что с этим делать.

Среднее почти бессмысленно: оно определяется несколькими объектами и нестабильно от выборки к выборке.
MSE-метрики превращаются в метрики по хвосту: модель будет обслуживать топ-1% объектов.
Разбиение выборки становится рискованным: попадание или непопадание кита в тест меняет метрику.
Решения: логарифмировать, обрезать (winsorize), работать с квантилями, моделировать хвост отдельно.

α^= 1 + n [i \sum ln \frac{x _{i}}{x _{m i n}}]^{- 1}

Обозначения

$α$ показатель степенного закона: чем он меньше, тем тяжелее хвост
$x$ значение случайной величины
$n$ число наблюдений или испытаний
$\sum$ суммирование по всем перечисленным элементам
$lo g$ логарифм: превращает произведения в суммы и сжимает масштаб

Оценка показателя методом максимального правдоподобия (Кланцет — Шализи — Ньюман)

На практике

Не оценивайте α по наклону гистограммы в лог-лог осях: биннинг сильно смещает оценку. Используйте MLE и проверяйте, действительно ли степенной закон лучше логнормального.

Связанные темы

Распределения и их хвосты · Тяжёлые хвосты и риск · Фракталы и самоподобие · Структура реальных сетей

Ключевые тезисы

Подробный разбор

Где встречается

Последствия для моделирования

Связанные темы

Self-similarity96%

Log-normal Distribution95%

Heavy Tails95%

Complex Systems95%

Scale-free Networks95%

Fractals85%

Mandelbrot Set85%

Fractal Dimension85%

1/f Noise85%

Topology basics85%

Normal Distribution80%

Poisson Distribution80%

Exponential Distribution80%

Binomial & Bernoulli80%

Beta Distribution80%

Probability Distribution80%

Probability80%

Small World80%

Network Motifs80%

Centrality80%

Extreme Value Theory75%

Outliers75%

MAPE75%