Generative AI
Генеративный ИИ
Языковые, визуальные и мультимодальные генеративные модели, способы их адаптации и построения агентных систем.
Diffusionновинка
ДиффузияИтеративное расшумление — текущий стандарт генерации изображений, видео и аудио.
LLMновинка
Большие языковые моделиТрансформеры-декодеры, обученные на огромных корпусах предсказывать следующий токен.
Multimodal Modelsновинка
Мультимодальные моделиЕдиная модель, принимающая и порождающая несколько модальностей: текст, изображения, звук.
Generative Modelsактуально
Генеративные моделиМодели, обучающие распределение данных и умеющие порождать новые объекты из него.
Autoregressive Modelsактуально
Авторегрессионные моделиПорождают объект по частям, каждый раз предсказывая следующий элемент по предыдущим.
VAEактуально
Вариационный автоэнкодерГенерация через непрерывное вероятностное латентное пространство.
GANклассика
GANСостязательная пара сетей, дающая резкие и реалистичные изображения.
Diffusion Modelsновинка
Диффузионные моделииз «Глубокое обучение»Модель учится обращать процесс постепенного зашумления, превращая шум в изображение за серию шагов.
Mixture of Expertsновинка
Смесь экспертовиз «Глубокое обучение»Архитектура, в которой на каждый токен активируется лишь часть параметров: большая ёмкость при умеренной стоимости вычислений.
VAEактуально
Вариационный автоэнкодериз «Глубокое обучение»Вероятностный автоэнкодер: кодирует объект в распределение и учится генерировать из латентного пространства.
GANклассика
Генеративно-состязательные сетииз «Глубокое обучение»Генератор и дискриминатор обучаются в игре с нулевой суммой, повышая реалистичность выборок.
Generative Lossesактуально
Функции потерь генеративных моделейЧем измеряется ошибка, когда правильного ответа не существует: правдоподобие, состязательные потери, предсказание шума и контрастные цели.
Loss functionsактуально
Функции потерьиз «Глубокое обучение»Формализуют цель обучения. Выбор потерь важнее выбора архитектуры чаще, чем кажется.
Promptingновинка
ПромптингУправление поведением модели через формулировку запроса, без изменения весов.
LoRAновинка
LoRAОбучение низкоранговых добавок к весам вместо полного дообучения модели.
RLHFновинка
RLHFДообучение по человеческим предпочтениям: модель награды + оптимизация политики.
Distillationновинка
ДистилляцияОбучение маленькой модели воспроизводить поведение большой: кратное снижение стоимости при небольшой потере качества.
Fine-tuningактуально
ДообучениеАдаптация предобученной модели под домен или формат на собственных данных.
RAGновинка
RAGПодмешивание найденных документов в контекст модели вместо хранения знаний в весах.
Agentsновинка
АгентыLLM, которая планирует, вызывает инструменты и итеративно движется к цели.
RAGновинка
Retrieval-Augmented Generationиз «Обработка естественного языка»Языковая модель отвечает, опираясь на найденные во внешней базе фрагменты, а не только на память весов.
LLM Servingновинка
Обслуживание LLMиз «Системный дизайн ML-сервисов»Отдельная инженерная дисциплина: KV-кеш, непрерывный батчинг, потоковая отдача и контроль стоимости.
LLM Evaluationновинка
Оценка языковых моделейКак измерять качество генерации: бенчмарки, оценка моделью-судьёй и человеческие сравнения.
Perplexityактуально
Перплексияиз «Метрики»Экспонента кросс-энтропии языковой модели: между сколькими равновероятными вариантами она в среднем выбирает.
8 тем показаны здесь из других глав — они подходят по смыслу и открываются в своей главе.