Теория вероятностей и распределения

Central Limit Theorem

Центральная предельная теорема

актуальноТекущий рабочий стандарт

Направления: Основы · Вероятность

Сумма большого числа независимых слагаемых со сравнимым вкладом распределена приближённо нормально.

Что означает каждый компонент
  • сумма наблюдений минус её ожидание — центрируем
  • нормируем на разброс суммы: он растёт как корень из n, а не как n
  • предел — стандартное нормальное распределение. Требуется конечная дисперсия, иначе теорема не работает

Ключевые тезисы

  • Объясняет, почему встречается так часто.
  • Требует конечной : при тяжёлых хвостах сходимость нарушается или крайне медленна.
  • Обосновывает t-тесты, и нормальные приближения в A/B-тестах.

Подробный разбор

2 подтемы — объяснения, формулы, примеры и интерактивные графики.

  • Бесконечная дисперсия: при степенном хвосте с сходимость идёт не к нормальному, а к устойчивому распределению.
  • Зависимые наблюдения: в рядах и в сетевых данных эффективный размер выборки намного меньше номинального.
  • Один доминирующий вклад: если одно слагаемое сравнимо с суммой остальных, нормальности не будет.
1101001e+01e-41e-81e-12xp(x)степенное x^(−α)нормальное
показатель α2.50
среднееконечно
дисперсиябесконечна
P(x=50): степенное / нормальное2.6e+35
Шкала
Сравните хвосты: при степенном законе события «за пределом 3σ» перестают быть редкостью

Конверсия — среднее бернуллиевских величин, поэтому при достаточном числе наблюдений её распределение близко к нормальному. Но для метрик с тяжёлым хвостом (выручка на пользователя) приближение подводит, и там применяют или трансформации.

На практике

Практическое правило: если 1% пользователей даёт 50% метрики, не полагайтесь на t-тест — используйте или переходите к устойчивым метрикам.

Видеолекции

Тайм-кода именно на эту тему в записях нет. Но глава «Теория вероятностей и распределения» разобрана в курсе целиком — с той оговоркой, что место в записи придётся искать самому.

Связанные темы

Онлайн-эксперименты · Предельные теоремы

Experiment Infrastructure85%

Инфраструктура экспериментов · Системный дизайн ML-сервисов

Механика раскатки: разделение трафика, стабильные группы, метрики и автоматический откат.

A/B testing85%

A/B-тестирование · Оценка моделей

Онлайн-эксперимент, который единственный честно измеряет влияние модели на продуктовые метрики.

Hypothesis testing85%

Проверка гипотез · Оценка моделей

Формальная процедура принятия решения на основе данных: нулевая гипотеза, статистика, уровень значимости.

Statistical significance85%

Статистическая значимость · Оценка моделей

Проверка, что разница между моделями не объясняется случайностью выборки.

Binomial & Bernoulli85%

Бернулли и биномиальное · Теория вероятностей и распределения

Один успех или число успехов в серии независимых испытаний — базовая модель конверсии и кликов.

Law of Large Numbers80%

Закон больших чисел · Теория вероятностей и распределения

Среднее по выборке сходится к математическому ожиданию при росте числа наблюдений.

Heavy Tails80%

Тяжёлые хвосты · Теория вероятностей и распределения

Распределения, у которых экстремальные значения не являются пренебрежимо редкими. Именно они ломают привычные оценки и метрики.

Series and Convergence80%

Ряды и сходимость · Математический анализ

Когда бесконечная сумма имеет конечное значение и с какой скоростью алгоритм приближается к ответу.

Limits and Continuity80%

Пределы и непрерывность · Математический анализ

Предел описывает, к чему стремится функция вблизи точки. На этом понятии держатся производная, интеграл и вся теория сходимости алгоритмов.

Confidence intervals80%

Доверительные интервалы · Оценка моделей

Показывают точность оценки метрики; одно число без интервала мало о чём говорит.

Bootstrap80%

Бутстрэп · Оценка моделей

Многократная выборка с возвращением: даёт распределение метрики и доверительные интервалы без предположений о нормальности.

Statistics80%

Статистика · Основы

Как от выборки перейти к выводам о генеральной совокупности: оценки, доверительные интервалы и проверка гипотез.

Проверить себя

Тема встречается в тесте по направлениям — ошибки приведут обратно на эту страницу.

Следующий шагПроверить себя: Статистика и вероятностьТема встречается в этом тесте 2 раза. Ошибка приведёт обратно на эту страницу — с объяснением, что именно не сошлось.Перейти →

Глава «Теория вероятностей и распределения» последний раз правилась . Нашли ошибку — напишите.