Normal Distribution

Колоколообразное распределение с двумя параметрами. Максимально энтропийное при заданных среднем и — поэтому его берут «по умолчанию».

p (x) = \frac{1}{σ 2 π} exp (- \frac{( x - μ ) ^{2}}{2 σ ^{2}})

Что означает каждый компонент

$\frac{1}{σ 2 π}$ нормировка: делает площадь под кривой равной единице
$\frac{( x - μ ) ^{2}}{2 σ ^{2}}$ квадрат отклонения от среднего μ, поделённый на разброс σ². Отсюда быстрое затухание хвостов

Ключевые тезисы

Правило трёх сигм: 68 / 95 / 99.7 процентов массы в пределах одного, двух и трёх стандартных отклонений.
Предположение нормального шума в регрессии эквивалентно выбору .
Опасность: реальные данные о деньгах, трафике и размерах почти никогда не нормальны.

Подробный разбор

2 подтемы — объяснения, формулы, примеры и интерактивные графики.

Интервал	Доля массы
μ ± σ	68.3%
μ ± 2σ	95.4%
μ ± 3σ	99.7%
μ ± 5σ	1 на 3.5 млн

Сумма независимых нормальных величин снова нормальна — редкое и очень полезное свойство.
Максимизирует при заданных среднем и : минимально «предполагающий» выбор.
Многомерная версия задаётся средних и ковариационной .

H(p)1.000 бит

H(p, q)1.000 бит

KL(p‖q)0.000 бит

Истинная вероятность p0.50Предсказание модели q0.50

Идея максимума энтропии: при фиксированных ограничениях выбирается наименее информативное распределение

Деньги, время, размеры, трафик — почти всегда скошены и имеют тяжёлый правый хвост.
Финансовые доходности имеют «лишние» экстремальные события: события «5σ» случаются на порядки чаще предсказанного.
Проверка: QQ-график против нормального — самый быстрый способ увидеть отклонение в хвостах.

На практике

Практический вывод: прежде чем считать среднее ± 2σ, посмотрите на гистограмму в логарифмической шкале. Часто вместо нормальной модели нужна логнормальная или степенная.

Тема также относится к главам:Математический справочникВероятность

Видеолекции

Тайм-кода именно на эту тему в записях нет. Но глава «Теория вероятностей и распределения» разобрана в курсе целиком — с той оговоркой, что место в записи придётся искать самому.

Курс: Математика для ML14 записей

Связанные темы

Распределения и их хвосты

Log-normal Distribution80%

Логнормальное распределение · Теория вероятностей и распределения

Величина, логарифм которой нормален. Возникает там, где эффекты перемножаются, а не складываются.

Power Law80%

Степенное распределение · Теория вероятностей и распределения

Плотность убывает как степень: редкие события встречаются намного чаще, чем предсказывает нормальный закон. Распределения Парето и Ципфа — его классические формы.

Poisson Distribution80%

Распределение Пуассона · Теория вероятностей и распределения

Число редких независимых событий за фиксированный интервал: заказы за час, отказы за сутки, клики за сессию.

Exponential Distribution80%

Экспоненциальное распределение · Теория вероятностей и распределения

Время между пуассоновскими событиями. Единственное непрерывное распределение без памяти.

Binomial & Bernoulli80%

Бернулли и биномиальное · Теория вероятностей и распределения

Один успех или число успехов в серии независимых испытаний — базовая модель конверсии и кликов.

Beta Distribution80%

Бета-распределение · Теория вероятностей и распределения

Распределение вероятности на отрезке [0,1] — естественный априор для конверсии и для многоруких бандитов.

Heavy Tails80%

Тяжёлые хвосты · Теория вероятностей и распределения

Распределения, у которых экстремальные значения не являются пренебрежимо редкими. Именно они ломают привычные оценки и метрики.

Probability Distribution80%

Распределение вероятностей · Математический справочник

Закон, задающий вероятности значений случайной величины.

Probability80%

Теория вероятностей · Основы

Язык неопределённости: распределения, условные вероятности и теорема Байеса описывают, как данные порождаются и как обновлять убеждения.

Кому эта тема нужна

Профильная компетенция для ролей: Data Scientist, Аналитик данных, Исследователь.

Добавить в учебную программу

Следующий шагДальше по связи: Log-normal DistributionВеличина, логарифм которой нормален. Возникает там, где эффекты перемножаются, а не складываются.Перейти →

Глава «Теория вероятностей и распределения» последний раз правилась 26 августа 2026 г.. Нашли ошибку — напишите.