CNN

Разделяемые фильтры скользят по изображению, выявляя локальные паттерны с трансляционной инвариантностью.

Ключевые тезисы

+ пулинг наращивают рецептивное поле от краёв к объектам.
Разделение весов резко сокращает число параметров по сравнению с MLP.
ResNet со скип-связями сделал возможным обучение сетей в сотни слоёв.

Какую задачу решает

Полносвязный слой на картинке $224 \times 224 \times 3$ с тысячей нейронов требует 150 миллионов весов — и всё равно не знает, что соседние пиксели связаны, а кошка остаётся кошкой при сдвиге на десять пикселей. встраивает оба этих знания прямо в архитектуру.

Механизм — маленькое весов, которое скользит по всему изображению. Один и тот же детектор края применяется в каждой точке: параметров становится в тысячи раз меньше, а результат автоматически устойчив к сдвигу. Стопка таких слоёв строит иерархию: края → текстуры → части объектов → объекты.

Считаем экономию на пальцах

Вход $224 \times 224 \times 3$ , нужно 64 карты . Полносвязный слой: $224 \cdot 224 \cdot 3 \cdot (224 \cdot 224 \cdot 64) \approx 1.5 \cdot 1 0^{13}$ весов — нереально. Свёрточный слой с ядром $3 \times 3$ : $3 \cdot 3 \cdot 3 \cdot 64 + 64 = 1792$ веса, то есть в десять миллиардов раз меньше, и он при этом обрабатывает изображение любого размера. Вся разница — в одном допущении: полезный выглядит одинаково в любой точке картинки.

Подробный разбор

3 подтемы — объяснения, формулы, примеры и интерактивные графики.

Изображение 224×224×3 — это 150 528 входов. Полносвязный слой на 1000 нейронов потребовал бы 150 млн параметров только на первый слой. Свёрточное ядро 3×3 использует 27 весов и применяет их ко всем позициям.

(I * K) (i, j) = m \sum n \sum I (i + m, j + n) K (m, n)

Обозначения

$n$ число объектов в выборке
$\sum$ суммирование по всем перечисленным элементам

Локальность: пиксель связан прежде всего с соседями.
Разделение весов: один и тот же детектор края работает в любом месте картинки.
Трансляционная инвариантность: сдвиг объекта не меняет ответ.

H_{out} = ⌊ \frac{H _{in} + 2 p - k}{s} ⌋ + 1

Обозначения

$p$ вероятность (или плотность распределения)
$k$ номер или количество: индекс шага, число соседей, кластеров или позиций

k

— размер ядра,

p

— padding,

s

— шаг

Пример

Вход 224, ядро 3, padding 1, stride 2 → $(224 + 2 - 3) /2 + 1 = 112$ . Размер уменьшился вдвое — типичный «downsample» блок.

Рецептивное поле растёт с глубиной: два слоя 3×3 видят область 5×5, три — 7×7. Поэтому глубокая сеть из маленьких ядер эффективнее одного большого ядра и требует меньше параметров.

y = F (x, W) + x

Обозначения

$y$ истинное значение целевой переменной
$x$ объект: вектор признаков

Блок учит не саму функцию, а поправку к тождественному отображению

суммы даёт единичный путь для : $\partial y / \partial x = \partial F / \partial x + 1$ . Даже если блок «выключился», проходит дальше без затухания. Именно это сделало возможным обучение очень глубоких сетей — и та же идея живёт в .

Где применяется

Классификация изображенийИсторическая точка входа в область; ResNet и EfficientNet до сих пор берут как бэкбон, когда данных немного.
и YOLO, Faster R-CNN, U-Net — свёрточный бэкбон плюс голова под задачу. В проде это по-прежнему самый частый выбор.
Медицинские изображенияДанных мало, а содержит правильные допущения о структуре — здесь она часто выигрывает у .
Сигналы и спектрограммыОдномерные по звуку и временным рядам ловят локальные паттерны так же, как двумерные — по картинке.
на устройствеMobileNet и его родня с depthwise-свёртками умещаются в бюджет телефона и микроконтроллера.

Плюсы, минусы и альтернативы

Плюсы

На порядки меньше параметров, чем у полносвязной сети той же выразительности.
Устойчивость к сдвигу встроена в архитектуру, а не выучивается из данных.
Локальность и иерархия — правильные допущения для изображений, поэтому работает и на небольших выборках.
Отлично оптимизирована: быстры и на , и на мобильных ускорителях.
Огромная экосистема предобученных весов для .

Минусы

Рецептивное поле растёт медленно: дальние связи требуют большой глубины или дырявых свёрток.
Устойчивость только к сдвигу; поворот и масштаб приходится добирать .
На очень больших выборках уступает vision-трансформерам, которые не ограничены локальностью.
Пулинг теряет точное положение — для точной локализации нужны skip-соединения (U-Net).
Чувствительна к состязательным примерам: незаметный глазу шум меняет предсказание.

Брать, если

Вход — изображение, спектрограмма или другой сигнал на регулярной решётке.
Данных немного (тысячи, а не миллионы) — встроенные допущения работают как .
Нужен быстрый на CPU или мобильном устройстве.

Не брать, если

Порядок и соседство во входе ничего не значат (обычная таблица ).
Данных миллионы и важно качество любой ценой — сравните с vision-трансформером.
Задача требует связей между далёкими частями изображения на каждом слое.

Чем заменяют

Vision TransformersактуальноVision Transformers · Компьютерное зрениеДанных очень много и нужны глобальные связи с первого слоя.Transfer LearningактуальноПеренос обучения · Глубокое обучениеСвоих данных мало: дообучить предобученный свёрточный бэкбон почти всегда лучше, чем учить с нуля.CNNактуальноСвёрточные сети в CV · Компьютерное зрениеНужен прикладной разбор в задачах зрения.

Тема также относится к главам:Компьютерное зрениеАрхитектуры

Видеолекции

Записи университетских курсов, где эта тема звучит. Где у записи есть тайм-коды, ссылка открывает её с нужной секунды; где их не проставили — с начала.

11:19Свёрточные сети и инвариантность к сдвигамКомпьютерное зрение 3D · Лекция «Обработка облаков точек» · 2 ч 35 мин с началаАугментации и основы сверточных сетейГлубокое обучение · Лекция · 3 ч 11 мин 15:34Маскированные свертки в генерацииГенеративные модели · Лекция «PixelCNN архитектура» · 1 ч 13 мин 1:07:45GCNet и трёхмерные свёрткиКомпьютерное зрение 3D · Лекция «Оценка глубины изображений» · 2 ч 54 мин 28:52Архитектуры для стереоглубины (3D и 2D свёртки)Компьютерное зрение 3D · Лекция «Развитие многовидовых трансформеров» · 2 ч 18 мин с началаСверткиГлубокое обучение · Лекция · 3 ч 24 мин

Связанные темы

Свёртки и зрение · Свёртки и физика в рядах

Кому эта тема нужна

Профильная компетенция для роли: CV-инженер.

Усиливает профиль: Исследователь.

Спрашивают на собеседовании: Яндекс — Computer Vision, Сбер — Computer Vision.

Добавить в учебную программу

Проверить себя

Тема встречается в тесте по направлениям — ошибки приведут обратно на эту страницу.

Тест: Computer Vision24

Следующий шагПроверить себя: Computer VisionТема встречается в этом тесте 1 раз. Ошибка приведёт обратно на эту страницу — с объяснением, что именно не сошлось.Перейти →

Глава «Глубокое обучение» последний раз правилась 27 августа 2026 г.. Нашли ошибку — напишите.

Ключевые тезисы

Какую задачу решает

Подробный разбор

Где применяется

Плюсы, минусы и альтернативы

Плюсы

Минусы

Брать, если

Не брать, если

Чем заменяют

Видеолекции

Связанные темы

CNN85%

Image Classification85%

Object Detection85%

Segmentation85%

Feature extraction85%

Image preprocessing85%

1D CNN for Time Series80%

Temporal Convolutional Network80%

Physics-Informed Neural Networks80%

Transformer forecasting80%

RNN/LSTM80%

Ядро свёртки (фильтр)

Разделяемые веса

Рецептивное поле

Stride и padding

Пулинг

Остаточная связь

CNN

Ключевые тезисы

Какую задачу решает

Подробный разбор

1Свёртка: локальность и общие весаПочему для изображений не берут полносвязный слой.

2Размеры, stride, padding, пулингФормула, которую полезно помнить наизусть.

3Скип-связи и ResNetКак обучили сеть из 152 слоёв.

Где применяется

Плюсы, минусы и альтернативы

Плюсы

Минусы

Брать, если

Не брать, если

Чем заменяют

Видеолекции

Связанные темы

CNN85%

Image Classification85%

Object Detection85%

Segmentation85%

Feature extraction85%

Image preprocessing85%

1D CNN for Time Series80%

Temporal Convolutional Network80%

Physics-Informed Neural Networks80%

Transformer forecasting80%

RNN/LSTM80%

Ключевые понятия6 определений из текста — каждое со ссылкой на разбор

Ядро свёртки (фильтр)

Разделяемые веса

Рецептивное поле

Stride и padding

Пулинг

Остаточная связь