VAE

Вероятностный : кодирует объект в распределение и учится генерировать из латентного пространства.

L = E_{q (z ∣ x)} [lo g p (x ∣ z)] - D_{KL} (q (z ∣ x) ∥ p (z))

Что означает каждый компонент

$E [lo g p (x ∣ z)]$ реконструкция: насколько хорошо декодер восстанавливает объект из латентного кода
$D_{K L}$ регуляризатор: притягивает распределение кодов к нормальному, чтобы из него можно было сэмплировать

Ключевые тезисы

= реконструкция + с приором.
Reparameterization trick делает сэмплирование дифференцируемым.
Латентное пространство непрерывно, поэтому интерполяция даёт осмысленные объекты.

Какую задачу решает

Обычный сжимает, но не умеет порождать: случайная точка его латентного пространства декодируется в мусор, потому что ничто не заставляло коды заполнять пространство плотно. чинит это, делая латент вероятностным.

Энкодер выдаёт не точку, а распределение — среднее и разброс. К лоссу добавляется KL-слагаемое, притягивающее эти распределения к стандартной нормальной. В результате латентное пространство оказывается плотно заполненным и непрерывным: из него можно сэмплировать, и любая точка декодируется в осмысленный объект. Цена — компромисс между точностью реконструкции и регулярностью пространства, из-за которого изображения выходят мягче, чем у .

Зачем нужен reparameterization trick

Наивно: энкодер выдал $μ$ и $σ$ , мы вызвали z = sample(Normal(mu, sigma)) — и оборвался, потому что сэмплирование не дифференцируемо. Трюк переписывает то же самое как $z = μ + σ \cdot ε$ , где $ε \sim N (0, 1)$ берётся до и от параметров не зависит. Распределение $z$ то же самое, но теперь $\partial z / \partial μ = 1$ и $\partial z / \partial σ = ε$ — спокойно течёт в энкодер. Вся случайность вынесена во вход, а не в операцию.

Подробный разбор

2 подтемы — объяснения, формулы, примеры и интерактивные графики.

L = реконструкция E_{q (z ∣ x)} [lo g p (x ∣ z)] - регуляризация D_{KL} (q (z ∣ x) ∥ p (z))

Обозначения

$D_{KL}$ KL-дивергенция: насколько одно распределение отличается от другого
$E [\cdot]$ математическое ожидание — среднее по распределению
$x$ объект: вектор признаков
$p$ вероятность (или плотность распределения)
$q$ распределение, предсказанное моделью
$L$ функция потерь — то, что минимизируется при обучении
$∥ \cdot ∥$ норма — длина вектора

ELBO — нижняя оценка логарифма

KL-слагаемое притягивает распределение кодов к стандартному нормальному. Благодаря этому латентное пространство остаётся плотным и непрерывным: можно сэмплировать $z \sim N (0, I)$ и получать осмысленные объекты.

z = μ (x) + σ (x) ⊙ ε, ε \sim N (0, I)

Обозначения

$N (μ, σ^{2})$ нормальное распределение со средним μ и дисперсией σ²
$σ (z)$ сигмоида: сжимает число в интервал от 0 до 1
$μ$ среднее значение
$ε$ малая константа для численной устойчивости
$x$ объект: вектор признаков
$n$ число объектов в выборке

Случайность выносится в независимый шум, и спокойно течёт через μ и σ

На практике

Изображения выходят размытыми: пиксельная усредняет все правдоподобные варианты. Поэтому VAE редко используют как финальный , но часто — как компонент внутри более сложных систем.

Где применяется

Латент для Главная современная роль: сжимает изображение $512 \times 512$ в латент $64 \times 64$ , и работает уже там. Без этого Stable Diffusion была бы непрактичной.
Генерация с управляемым латентомНепрерывное пространство позволяет интерполировать между объектами и двигаться вдоль осмысленных направлений.
В отличие от обычного даёт оценку — более обоснованный скор.
Молекулы и материалыНепрерывное латентное представление дискретных структур позволяет вести оптимизацию свойств .
РекомендацииВероятностный латент пользователя естественно моделирует неопределённость его вкусов.

Плюсы, минусы и альтернативы

Плюсы

Настоящая генеративная модель: из приора можно сэмплировать и получать осмысленные объекты.
Обучение устойчивое — обычный спуск, никакой игры двух сетей.
Даёт оценку (через ELBO), которой нет у .
Непрерывное и структурированное латентное пространство — удобно для интерполяции и редактирования.
Отлично работает как компонент внутри более крупных систем.

Минусы

Размытые изображения: пиксельная реконструкция усредняет правдоподобные варианты.
Качество генерации заметно ниже, чем у и .
Posterior collapse: при сильном декодере латент перестаёт использоваться.
Баланс между реконструкцией и KL приходится настраивать ( $β$ -VAE) — ещё один капризный .
ELBO — только нижняя оценка, и насколько она близка к правде, неизвестно.

Брать, если

Нужно вероятностное латентное пространство: интерполяция, редактирование, оптимизация в латенте.
Нужен сжиматель для более крупной генеративной системы.
Важна устойчивость обучения, а лёгкое размытие допустимо.

Не брать, если

Нужны фотореалистичные изображения как конечный результат — берите диффузию.
Нужна только реконструкция без генерации — обычный проще.
Данные дискретные и последовательные: авторегрессионная модель даст точное .

Чем заменяют

Diffusion ModelsновинкаДиффузионные модели · Глубокое обучениеНужно качество генерации: выигрывает у по резкости с большим отрывом.GANклассикаГенеративно-состязательные сети · Глубокое обучениеНужна резкость и одношаговая генерация, а с нестабильностью обучения вы готовы иметь дело.AutoencodersактуальноАвтоэнкодеры · Глубокое обучениеГенерация не нужна, нужно только сжатие или .

Тема также относится к главам:Генеративный ИИСемейства моделей

Видеолекции

Записи университетских курсов, где эта тема звучит. Ссылка открывает запись с той секунды, где о ней говорят, — искать по трёхчасовой лекции не нужно.

38:22Диффузия как вариационный автоэнкодерГенеративные модели · Лекция «Диффузионные модели» · 1 ч 31 мин

Связанные темы

Генеративные модели · Байесовские вычисления

Кому эта тема нужна

Профильная компетенция для роли: Исследователь.

Усиливает профиль: CV-инженер.

Добавить в учебную программу

Следующий шагДальше по связи: Bayesian InferenceПараметры модели рассматриваются как случайные величины; данные обновляют априорное распределение в апостериорное.Перейти →

Глава «Глубокое обучение» последний раз правилась 27 августа 2026 г.. Нашли ошибку — напишите.

Ключевые тезисы

Какую задачу решает

Подробный разбор

Где применяется

Плюсы, минусы и альтернативы

Плюсы

Минусы

Брать, если

Не брать, если

Чем заменяют

Видеолекции

Связанные темы

Bayesian Inference85%

MCMC85%

Variational Inference85%

Maximum Likelihood85%

Markov Chains85%

KL Divergence85%

GAN80%

Diffusion Models80%

Generative Models80%

Autoregressive Models80%

VAE80%

GAN80%

Diffusion80%

Density Estimation80%

Вероятностный энкодер

KL-слагаемое

ELBO

Reparameterization trick

Posterior collapse

VAE

Ключевые тезисы

Какую задачу решает

Подробный разбор

1Вероятностный взглядКодируем не точку, а распределение.

2Reparameterization trickКак продифференцировать случайное сэмплирование.

Где применяется

Плюсы, минусы и альтернативы

Плюсы

Минусы

Брать, если

Не брать, если

Чем заменяют

Видеолекции

Связанные темы

Bayesian Inference85%

MCMC85%

Variational Inference85%

Maximum Likelihood85%

Markov Chains85%

KL Divergence85%

GAN80%

Diffusion Models80%

Generative Models80%

Autoregressive Models80%

VAE80%

GAN80%

Diffusion80%

Density Estimation80%

Ключевые понятия5 определений из текста — каждое со ссылкой на разбор

Вероятностный энкодер

KL-слагаемое

ELBO

Reparameterization trick

Posterior collapse