Теория вероятностей и распределения

Normal Distribution

Нормальное распределение

актуальноТекущий рабочий стандарт

Колоколообразное распределение с двумя параметрами. Максимально энтропийное при заданных среднем и дисперсии — поэтому его берут «по умолчанию».

Что означает каждый компонент
  • нормировка: делает площадь под кривой равной единице
  • квадрат отклонения от среднего μ, поделённый на разброс σ². Отсюда быстрое затухание хвостов

Ключевые тезисы

  • Правило трёх сигм: 68 / 95 / 99.7 процентов массы в пределах одного, двух и трёх стандартных отклонений.
  • Предположение нормального шума в регрессии эквивалентно выбору MSE.
  • Опасность: реальные данные о деньгах, трафике и размерах почти никогда не нормальны.
Тема также относится к главам:Математический справочникВероятность

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Свойства и правило сигм

Почему это распределение так удобно.

ИнтервалДоля массы
μ ± σ68.3%
μ ± 2σ95.4%
μ ± 3σ99.7%
μ ± 5σ1 на 3.5 млн
  • Сумма независимых нормальных величин снова нормальна — редкое и очень полезное свойство.
  • Максимизирует энтропию при заданных среднем и дисперсии: минимально «предполагающий» выбор.
  • Многомерная версия задаётся вектором средних и ковариационной матрицей.
0.000.250.500.751.000.00.51.0pH, битq
H(p)1.000 бит
H(p, q)1.000 бит
KL(p‖q)0.000 бит
Идея максимума энтропии: при фиксированных ограничениях выбирается наименее информативное распределение
2

Где нормальность подводит

Самая частая необоснованная гипотеза в анализе данных.

  • Деньги, время, размеры, трафик — почти всегда скошены и имеют тяжёлый правый хвост.
  • Финансовые доходности имеют «лишние» экстремальные события: события «5σ» случаются на порядки чаще предсказанного.
  • Проверка: QQ-график против нормального — самый быстрый способ увидеть отклонение в хвостах.
На практике

Практический вывод: прежде чем считать среднее ± 2σ, посмотрите на гистограмму в логарифмической шкале. Часто вместо нормальной модели нужна логнормальная или степенная.

Связанные темы

Распределения и их хвосты

Log-normal Distribution80%

Логнормальное распределение · Теория вероятностей и распределения

Величина, логарифм которой нормален. Возникает там, где эффекты перемножаются, а не складываются.

Power Law80%

Степенное распределение · Теория вероятностей и распределения

Плотность убывает как степень: редкие события встречаются намного чаще, чем предсказывает нормальный закон. Распределения Парето и Ципфа — его классические формы.

Poisson Distribution80%

Распределение Пуассона · Теория вероятностей и распределения

Число редких независимых событий за фиксированный интервал: заказы за час, отказы за сутки, клики за сессию.

Exponential Distribution80%

Экспоненциальное распределение · Теория вероятностей и распределения

Время между пуассоновскими событиями. Единственное непрерывное распределение без памяти.

Binomial & Bernoulli80%

Бернулли и биномиальное · Теория вероятностей и распределения

Один успех или число успехов в серии независимых испытаний — базовая модель конверсии и кликов.

Beta Distribution80%

Бета-распределение · Теория вероятностей и распределения

Распределение вероятности на отрезке [0,1] — естественный априор для конверсии и для многоруких бандитов.

Heavy Tails80%

Тяжёлые хвосты · Теория вероятностей и распределения

Распределения, у которых экстремальные значения не являются пренебрежимо редкими. Именно они ломают привычные оценки и метрики.

Probability Distribution80%

Распределение вероятностей · Математический справочник

Закон, задающий вероятности значений случайной величины.

Probability80%

Теория вероятностей · Основы

Язык неопределённости: распределения, условные вероятности и теорема Байеса описывают, как данные порождаются и как обновлять убеждения.