Карта связей
82 групп, связывающих темы разных глав. Внутри каждой группы все блоки связаны друг с другом: с любой темы можно перейти к любой другой из её группы.
Алгоритмическое мышление
6 темсвязь 85%Оценить сложность, выбрать приём, свернуть перебор в полином.
Problem Pattern Recognition85%
Как распознать паттерн задачи · Алгоритмы и структуры данныхTime and Space Complexity85%
Асимптотическая сложность · Алгоритмы и структуры данныхRecursion and Divide and Conquer85%
Рекурсия и разделяй-и-властвуй · Алгоритмы и структуры данныхDynamic Programming85%
Динамическое программирование · Алгоритмы и структуры данныхGreedy Algorithms85%
Жадные алгоритмы · Алгоритмы и структуры данныхДва указателя и окно
7 темсвязь 90%Четыре приёма с двумя индексами: что общего и чем отличаются.
Two Pointers and Sliding Window90%
Два указателя: семейство приёмов · Алгоритмы и структуры данныхOpposite-Direction Pointers90%
Встречные указатели · Алгоритмы и структуры данныхSliding Window90%
Скользящее окно · Алгоритмы и структуры данныхFast and Slow Pointers90%
Быстрый и медленный указатель · Алгоритмы и структуры данныхSame-Direction Pointers90%
Два указателя в одну сторону · Алгоритмы и структуры данныхСтруктуры данных
6 темсвязь 85%Что у какой структуры дёшево, а что дорого — и как это меняет асимптотику.
Hash Tables85%
Хеш-таблицы · Алгоритмы и структуры данныхArrays, Lists, Stacks and Queues85%
Массивы, списки, стеки и очереди · Алгоритмы и структуры данныхTrees and Heaps85%
Деревья и кучи · Алгоритмы и структуры данныхSorting Algorithms85%
Сортировки · Алгоритмы и структуры данныхOrder Statistics85%
Порядковые статистики · Алгоритмы и структуры данныхАлгоритмы на графах
7 темсвязь 85%Обходы, кратчайшие пути и то, что из них строится.
Graph Traversal85%
Обходы графа: семейство · Алгоритмы и структуры данныхBreadth-First Search85%
Поиск в ширину · Алгоритмы и структуры данныхDepth-First Search85%
Поиск в глубину · Алгоритмы и структуры данныхShortest Paths85%
Кратчайшие пути · Алгоритмы и структуры данныхGraph Basics85%
Основы графов · Графы и сетиГеометрия камеры
6 темсвязь 90%Как трёхмерная точка становится пикселем и что при этом теряется.
Pinhole Camera Model90%
Модель камеры-обскуры · Трёхмерное зрениеHomogeneous Coordinates90%
Однородные координаты · Трёхмерное зрениеCamera Calibration90%
Параметры камеры и калибровка · Трёхмерное зрениеRotation Representations90%
Представления поворота · Трёхмерное зрениеHomography and DLT90%
Гомография и DLT · Трёхмерное зрениеМноговидовая реконструкция
7 темсвязь 90%От соответствий между снимками к положениям камер и облаку точек.
Local Features and Matching90%
Локальные признаки и соответствия · Трёхмерное зрениеEpipolar Geometry90%
Эпиполярная геометрия · Трёхмерное зрениеFundamental and Essential Matrix90%
Фундаментальная и существенная матрицы · Трёхмерное зрениеTriangulation90%
Триангуляция · Трёхмерное зрениеStructure from Motion90%
Восстановление структуры по движению · Трёхмерное зрениеВосстановление глубины
5 темсвязь 85%Измерить стереопарой или предсказать моделью — два пути к третьему измерению.
Нейронный рендеринг
6 темсвязь 85%Сцена, выученная по фотографиям: поле яркости, гауссовы примитивы и отрисовка.
Neural Radiance Fields85%
Нейронные поля яркости · Трёхмерное зрение3D Gaussian Splatting85%
Гауссовы сплаты · Трёхмерное зрениеRendering85%
Рендеринг · Трёхмерное зрениеStructure from Motion85%
Восстановление структуры по движению · Трёхмерное зрениеParametric Body Models85%
Параметрические модели тела · Трёхмерное зрениеРазметка и слабый надзор
6 темсвязь 85%Как получить метки: вручную, правилами, активным отбором или синтетикой.
Редкие классы и события
7 темсвязь 80%Дисбаланс, аномалии и метрики, которые их честно измеряют.
Ансамблирование
5 темсвязь 85%Бэггинг, бустинг, стекинг и усреднение — способы собрать одну модель из нескольких.
Stacking and Blending85%
Стекинг и блендинг · Классическое машинное обучениеRandom Forest85%
Случайный лес · Классическое машинное обучениеGradient Boosting85%
Градиентный бустинг · Классическое машинное обучениеVariance85%
Дисперсия · Математический справочникCross-validation85%
Кросс-валидация · Оценка моделейСтабильность обучения нейросетей
6 темсвязь 85%Нормализация, обрезка градиента и смешанная точность — то, без чего глубокая сеть не сходится.
Normalization Layers85%
Слои нормализации · Глубокое обучениеGradient Clipping85%
Обрезка градиента · Оптимизация обученияMixed Precision85%
Смешанная точность · Оптимизация обученияBackpropagation85%
Обратное распространение ошибки · Глубокое обучениеLearning Rate Scheduling85%
Расписание скорости обучения · Оптимизация обученияЭффективность моделей
6 темсвязь 80%Как сделать модель дешевле: перенос обучения, дистилляция, разреженность, каскады.
Работа с корпусами текстов
6 темсвязь 75%Темы, суммаризация и оценка качества генерации.
Topic Modeling75%
Тематическое моделирование · Обработка естественного языкаSummarization75%
Суммаризация · Обработка естественного языкаText classification75%
Классификация текстов · Обработка естественного языкаLLM Evaluation75%
Оценка языковых моделей · Генеративный ИИPerplexity75%
Перплексия · МетрикиВидео и последовательности кадров
4 темсвязь 80%Трекинг, ключевые точки и фильтрация состояния.
Прогноз спроса
6 темсвязь 85%Иерархии, прерывистый спрос и метрики, устойчивые к нулям.
Плотностная кластеризация
6 темсвязь 85%DBSCAN, HDBSCAN и спектральные методы для невыпуклых структур.
HDBSCAN85%
HDBSCAN · Обучение без учителяSpectral Clustering85%
Спектральная кластеризация · Обучение без учителяDBSCAN85%
DBSCAN · Классическое машинное обучениеDimensionality Reduction85%
Снижение размерности · Обучение без учителяPersistent Homology85%
Персистентные гомологии · Топологический анализ данныхРешения в условиях неопределённости
6 темсвязь 80%Бандиты, оффлайн-RL и вероятностные оценки как основа выбора действия.
Multi-armed Bandits80%
Многорукие бандиты · Обучение с подкреплениемOffline RL80%
Оффлайн RL · Обучение с подкреплениемBeta Distribution80%
Бета-распределение · Теория вероятностей и распределенияA/B testing80%
A/B-тестирование · Оценка моделейExperiment Infrastructure80%
Инфраструктура экспериментов · Системный дизайн ML-сервисовКачество вероятностей
5 темсвязь 85%Калибровка и метрики, которые оценивают не метку, а уверенность.
Доставка модели в прод
6 темсвязь 85%CI/CD, версии и релизы — как модель попадает к пользователю.
Распределения и их хвосты
10 темсвязь 80%Какое распределение когда возникает и что это меняет в метриках, порогах и прогнозах.
Normal Distribution80%
Нормальное распределение · Теория вероятностей и распределенияLog-normal Distribution80%
Логнормальное распределение · Теория вероятностей и распределенияPower Law80%
Степенное распределение · Теория вероятностей и распределенияPoisson Distribution80%
Распределение Пуассона · Теория вероятностей и распределенияExponential Distribution80%
Экспоненциальное распределение · Теория вероятностей и распределенияТяжёлые хвосты и риск
9 темсвязь 75%Степенные законы, экстремальные значения и всё, что ломает привычные средние.
Power Law75%
Степенное распределение · Теория вероятностей и распределенияHeavy Tails75%
Тяжёлые хвосты · Теория вероятностей и распределенияExtreme Value Theory75%
Теория экстремальных значений · Теория вероятностей и распределенияLog-normal Distribution75%
Логнормальное распределение · Теория вероятностей и распределенияComplex Systems75%
Сложные системы · Динамические системы и фракталыХаос и предел предсказуемости
10 темсвязь 80%Динамические системы, показатель Ляпунова и то, как это связано с прогнозом рядов.
Logistic Map80%
Логистическое отображение · Динамические системы и фракталыBifurcations80%
Бифуркации · Динамические системы и фракталыFeigenbaum Constant80%
Постоянная Фейгенбаума · Динамические системы и фракталыChaos80%
Детерминированный хаос · Динамические системы и фракталыLyapunov Exponent80%
Показатель Ляпунова · Динамические системы и фракталыФракталы и самоподобие
7 темсвязь 85%Дробная размерность, множество Мандельброта и масштабная инвариантность в данных.
Fractals85%
Фракталы · Динамические системы и фракталыMandelbrot Set85%
Множество Мандельброта · Динамические системы и фракталыFractal Dimension85%
Фрактальная размерность · Динамические системы и фракталыSelf-similarity85%
Самоподобие · Динамические системы и фракталы1/f Noise85%
Розовый шум 1/f · Динамические системы и фракталыАппарат анализа
16 темсвязь 85%Производные, разложения и условная оптимизация — то, на чём стоит обучение моделей.
Limits and Continuity85%
Пределы и непрерывность · Математический анализDerivative85%
Производная · Математический анализDifferentiation Rules85%
Правила дифференцирования · Математический анализTaylor Series85%
Ряд Тейлора · Математический анализMultivariable Calculus85%
Многомерный анализ · Математический анализБайесовский подход
10 темсвязь 75%От теоремы Байеса до апостериорных распределений, бандитов и байесовской оптимизации.
Bayesian Inference75%
Байесовский вывод · Теория вероятностей и распределенияMarkov Chains75%
Марковские цепи · Теория вероятностей и распределенияBeta Distribution75%
Бета-распределение · Теория вероятностей и распределенияConditional Independence75%
Условная независимость · Теория вероятностей и распределенияProbability Axioms75%
Аксиомы вероятности · Теория вероятностей и распределенияМашинное обучение на графах
12 темсвязь 85%Признаки на графах, эмбеддинги вершин и графовые нейросети.
Структура реальных сетей
6 темсвязь 80%Безмасштабность, малый мир и предпочтительное присоединение.
Платформа данных
11 темсвязь 80%Хранение, движение и качество данных — фундамент, на котором стоит любая модель.
Надёжность данных
8 темсвязь 85%Контракты, качество, идемпотентность и корректность на момент времени.
Инференс и эксплуатация
14 темсвязь 85%Как модель отвечает пользователю: архитектура, задержка, стоимость и наблюдаемость.
Requirements and SLA85%
Требования и SLA · Системный дизайн ML-сервисовServing Architecture85%
Архитектура инференса · Системный дизайн ML-сервисовCaching85%
Кеширование · Системный дизайн ML-сервисовBatching and Queues85%
Батчинг и очереди · Системный дизайн ML-сервисовScaling85%
Масштабирование · Системный дизайн ML-сервисовПризнаки в реальном времени
6 темсвязь 85%Онлайн- и офлайн-расчёт признаков и борьба с расхождением между ними.
Online and Offline Features85%
Онлайн- и офлайн-признаки · Системный дизайн ML-сервисовFeature Stores85%
Хранилища признаков · MLOpsBatch and Streaming85%
Батч и стриминг · Инженерия данныхChange Data Capture85%
Захват изменений (CDC) · Инженерия данныхFeature engineering85%
Конструирование признаков · ДанныеОнлайн-эксперименты
6 темсвязь 85%Инфраструктура A/B-тестов и статистика, без которой её выводы бессмысленны.
Experiment Infrastructure85%
Инфраструктура экспериментов · Системный дизайн ML-сервисовA/B testing85%
A/B-тестирование · Оценка моделейHypothesis testing85%
Проверка гипотез · Оценка моделейStatistical significance85%
Статистическая значимость · Оценка моделейBinomial & Bernoulli85%
Бернулли и биномиальное · Теория вероятностей и распределенияБезопасность и приватность ML
5 темсвязь 70%Риски, которых нет у обычного сервиса: от извлечения модели до prompt injection.
Предельные теоремы
8 темсвязь 80%Закон больших чисел, ЦПТ и то, где они перестают работать.
Law of Large Numbers80%
Закон больших чисел · Теория вероятностей и распределенияCentral Limit Theorem80%
Центральная предельная теорема · Теория вероятностей и распределенияHeavy Tails80%
Тяжёлые хвосты · Теория вероятностей и распределенияSeries and Convergence80%
Ряды и сходимость · Математический анализLimits and Continuity80%
Пределы и непрерывность · Математический анализПодготовка данных
7 темсвязь 75%Всё, что происходит с таблицей до того, как её увидит модель.
Метрические и ядровые методы
7 темсвязь 65%Модели, для которых всё определяется выбранной мерой близости.
Нейросеть по кирпичикам
7 темсвязь 80%Минимальный набор блоков, из которых собирается любая архитектура.
Прикладные задачи NLP
8 темсвязь 75%Классификация, разметка сущностей и тональность — типовой продуктовый набор.
Text classification75%
Классификация текстов · Обработка естественного языкаNER75%
Извлечение именованных сущностей · Обработка естественного языкаSentiment Analysis75%
Анализ тональности · Обработка естественного языкаBERT75%
BERT · Обработка естественного языкаEmbeddings75%
Эмбеддинги · Обработка естественного языкаРабочий цикл ML-инженера
7 темсвязь 70%Порядок шагов, который экономит недели: постановка, бейзлайн, отладка, анализ ошибок.
Внимание и трансформеры
9 темсвязь 85%Один механизм, проросший из машинного перевода в текст, изображения и временные ряды.
Последовательные модели
7 темсвязь 80%Рекуррентные архитектуры и схема seq2seq — как обрабатывали последовательности до внимания.
Представления и снижение размерности
8 темсвязь 70%Как из сырых данных получить компактное пространство, в котором близость означает похожесть.
PCA70%
Метод главных компонент · Классическое машинное обучениеDimensionality reduction70%
Снижение размерности · ДанныеDimensionality Reduction70%
Снижение размерности · Обучение без учителяRepresentation Learning70%
Обучение представлений · Обучение без учителяAutoencoders70%
Автоэнкодеры · Глубокое обучениеКластеризация и её оценка
10 темсвязь 75%Алгоритмы поиска групп и метрики, которыми проверяют результат без разметки.
Генеративные модели
9 темсвязь 80%Четыре семейства генерации и общая для них задача — выучить распределение данных.
Поиск, эмбеддинги и RAG
12 темсвязь 80%Путь от векторного представления текста до системы, отвечающей со ссылками на источники.
От слов к векторам
7 темсвязь 75%Классические текстовые представления, на которых выросли современные эмбеддинги.
Аномалии и выбросы
6 темсвязь 70%Одна задача в трёх контекстах: таблицы, временные ряды и обучение без учителя.
Утечки и честная валидация
9 темсвязь 85%Самая дорогая ошибка в ML и набор практик, которые её предотвращают.
Признаки: создание, отбор, важность
8 темсвязь 70%Жизненный цикл признака — от конструирования до объяснения его вклада в предсказание.
Свёртки и зрение
7 темсвязь 85%Базовая архитектура компьютерного зрения и задачи, которые она решает.
Оптимизаторы
10 темсвязь 85%От чистого градиентного спуска до адаптивных методов и расписаний шага.
Переобучение и регуляризация
7 темсвязь 80%Компромисс смещения и разброса и все способы его сдвинуть.
Вероятность и информация
13 темсвязь 70%Общий фундамент функций потерь, байесовских методов и теории информации.
Линейная алгебра в ML
9 темсвязь 70%Векторы, матрицы, спектр и метрики — язык, на котором записаны модели.
Градиенты и производные
6 темсвязь 80%Как анализ превращается в правило обновления весов.
Деревья и ансамбли
8 темсвязь 85%Семейство, которое до сих пор выигрывает на табличных данных.
Decision Trees85%
Решающие деревья · Классическое машинное обучениеRandom Forest85%
Случайный лес · Классическое машинное обучениеGradient Boosting85%
Градиентный бустинг · Классическое машинное обучениеXGBoost85%
XGBoost · Классическое машинное обучениеLightGBM85%
LightGBM · Классическое машинное обучениеОбъяснение предсказаний
7 темсвязь 85%Локальные и глобальные методы интерпретации любой модели.
Качество классификации
10 темсвязь 85%Метрики порога, ранжирования и вероятностей — и калибровка, которая их связывает.
Качество регрессии
9 темсвязь 80%Метрики ошибки и объяснённой дисперсии вместе с моделями, которые их минимизируют.
Эксперименты и статистика
7 темсвязь 75%Как отличить реальное улучшение от случайного колебания метрики.
Подбор гиперпараметров
6 темсвязь 80%Три стратегии поиска и валидация, которая не даёт себя обмануть.
Продакшен и эксплуатация
8 темсвязь 80%Что происходит с моделью после того, как метрика всех устроила.
Воспроизводимость
6 темсвязь 75%Версии кода, данных и моделей — без них эксперимент нельзя повторить.
Топология данных
12 темсвязь 90%Отличительный сквозной сюжет атласа: форма данных как источник признаков.
Topology basics90%
Основы топологии · Топологический анализ данныхSimplicial complexes90%
Симплициальные комплексы · Топологический анализ данныхHomology90%
Гомологии · Топологический анализ данныхPersistent Homology90%
Персистентные гомологии · Топологический анализ данныхPersistence Diagrams90%
Диаграммы персистентности · Топологический анализ данныхПрогнозирование рядов
9 темсвязь 85%Классические модели, признаковый подход и нейросети на одной задаче.
Адаптация языковых моделей
7 темсвязь 80%Четыре способа заставить LLM вести себя нужным образом — от промпта до RLHF.
Основы обучения с подкреплением
9 темсвязь 85%Формализация задачи, функции ценности и два семейства алгоритмов.
MDP85%
Марковский процесс принятия решений · Обучение с подкреплениемStates / Actions / Rewards85%
Состояния, действия, награды · Обучение с подкреплениемValue Functions85%
Функции ценности · Обучение с подкреплениемQ-Learning85%
Q-обучение · Обучение с подкреплениемSARSA85%
SARSA · Обучение с подкреплениемМультимодальность
6 темсвязь 75%Общее пространство для текста и изображений и модели, которые в нём работают.
Multimodal Models75%
Мультимодальные модели · Компьютерное зрениеMultimodal Models75%
Мультимодальные модели · Генеративный ИИVision Transformers75%
Vision Transformers · Компьютерное зрениеOCR75%
Оптическое распознавание текста · Компьютерное зрениеEmbeddings75%
Эмбеддинги · Обработка естественного языкаАтаки на модель
6 темсвязь 85%Как ломают ML-системы: подобранный вход, отравленные данные, спрятанная в тексте инструкция.
Приватность и утечки
6 темсвязь 85%Что модель помнит о своих обучающих данных и как это ограничить.
Model Privacy Attacks85%
Атаки на приватность модели · Безопасность ИИDifferential Privacy85%
Дифференциальная приватность · Безопасность ИИFederated Learning85%
Федеративное обучение · Безопасность ИИPrivacy and Security85%
Приватность и безопасность · Системный дизайн ML-сервисовSynthetic Data85%
Синтетические данные · ДанныеБезопасная эксплуатация
6 темсвязь 75%Периметр вокруг работающей модели: проверка входа, наблюдение, документация и процесс.
Обучение на GPU
9 темсвязь 85%Железо, распределение работы между картами и приёмы, экономящие память и время.
GPU Architecture85%
Архитектура GPU · Вычислительная инфраструктураAI Accelerators85%
Ускорители: GPU, TPU, NPU · Вычислительная инфраструктураGPU in PyTorch85%
GPU в PyTorch · Вычислительная инфраструктураDistributed Training85%
Распределённое обучение · Вычислительная инфраструктураCollective Operations85%
Коллективные операции · Вычислительная инфраструктураПеребор конфигураций
6 темсвязь 80%Подбор гиперпараметров: пространство поиска, параллельные запуски и честная финальная оценка.
Distributed Hyperparameter Search80%
Распределённый подбор гиперпараметров · Вычислительная инфраструктураHyperparameter tuning80%
Настройка гиперпараметров · Практика MLRandom Search80%
Случайный поиск · Практика MLBayesian Optimization80%
Байесовская оптимизация · Практика MLCross-validation80%
Кросс-валидация · Оценка моделейСжатие моделей
6 темсвязь 80%Как сделать инференс дешевле: убрать лишнее, переучить меньшую модель, обучать не всё.
Байесовские вычисления
7 темсвязь 85%Как получают апостериорное распределение, когда формулой его не выписать.
Bayesian Inference85%
Байесовский вывод · Теория вероятностей и распределенияMCMC85%
Марковские цепи Монте-Карло · Теория вероятностей и распределенияVariational Inference85%
Вариационный вывод · Теория вероятностей и распределенияMaximum Likelihood85%
Метод максимального правдоподобия · Теория вероятностей и распределенияMarkov Chains85%
Марковские цепи · Теория вероятностей и распределенияИнтерпретируемая статистика
6 темсвязь 75%Связи между признаками и откликом, которые можно показать и объяснить.
Correlation75%
Корреляция · Математический справочникGeneralized Additive Models75%
Обобщённые аддитивные модели · Классическое машинное обучениеLinear Regression75%
Линейная регрессия · Классическое машинное обучениеPartial Dependence75%
Partial Dependence Plot · Интерпретируемость моделейFeature selection75%
Отбор признаков · ДанныеСвёртки и физика в рядах
6 темсвязь 80%Нерекуррентные модели временных рядов: локальные фильтры, длинный контекст и знание процесса.
Метрики зрения
5 темсвязь 85%Чем измеряют детекцию, сегментацию и трекинг.
Качество генерации
6 темсвязь 80%Автоматические метрики текста и изображений и то, чего они не видят.
Управляемая генерация
7 темсвязь 80%Как получить от генеративной модели именно то, что нужно: условие, структура, скорость.
Зрелость ML-процесса
7 темсвязь 80%От ноутбука до автоматического цикла обучения, выката и переобучения.