Состязательная пара сетей, дающая резкие и реалистичные изображения.
Ключевые тезисы
- Одношаговая генерация — очень быстрая по сравнению с диффузией.
- Обучение капризно: mode collapse и расхождение — обычное дело.
- StyleGAN до сих пор силён в узких доменах вроде лиц.
Подробный разбор
- Одношаговая генерация: там, где нужны миллисекунды, с 30 шагами не подходит.
- Узкие домены (лица, текстуры, медицинских снимков): StyleGAN остаётся сильным.
- Апскейл и восстановление: GAN-компонента добавляет реалистичные детали.
- Дистилляция диффузии в один шаг часто использует состязательную .
- Спектральная — самый дешёвый способ стабилизации.
- Разные для генератора и (TTUR).
- Отслеживайте не потери, а FID на фиксированном наборе шума.
- Сохраняйте чекпойнты часто: качество может внезапно обрушиться и не восстановиться.
Видеолекции
Тайм-кода именно на эту тему в записях нет. Но глава «Генеративный ИИ» разобрана в курсах целиком — с той оговоркой, что место в записи придётся искать самому.
Связанные темы
Генеративные модели
VAE80%
Вариационный автоэнкодер · Глубокое обучениеВероятностный автоэнкодер: кодирует объект в распределение и учится генерировать из латентного пространства.
GAN80%
Генеративно-состязательные сети · Глубокое обучениеГенератор и дискриминатор обучаются в игре с нулевой суммой, повышая реалистичность выборок.
Diffusion Models80%
Диффузионные модели · Глубокое обучениеМодель учится обращать процесс постепенного зашумления, превращая шум в изображение за серию шагов.
Generative Models80%
Генеративные модели · Генеративный ИИМодели, обучающие распределение данных и умеющие порождать новые объекты из него.
Autoregressive Models80%
Авторегрессионные модели · Генеративный ИИПорождают объект по частям, каждый раз предсказывая следующий элемент по предыдущим.
VAE80%
Вариационный автоэнкодер · Генеративный ИИГенерация через непрерывное вероятностное латентное пространство.
Diffusion80%
Диффузия · Генеративный ИИИтеративное расшумление — текущий стандарт генерации изображений, видео и аудио.
Density Estimation80%
Оценка плотности · Обучение без учителяВосстановление распределения данных: где объекты встречаются часто, а где почти никогда.
Глава «Генеративный ИИ» последний раз правилась . Нашли ошибку — напишите.