CNN

Разделяемые фильтры скользят по изображению, выявляя локальные паттерны с трансляционной инвариантностью.

Ключевые тезисы

Свёртка + пулинг наращивают рецептивное поле от краёв к объектам.
Разделение весов резко сокращает число параметров по сравнению с MLP.
ResNet со скип-связями сделал возможным обучение сетей в сотни слоёв.

Тема также относится к главам:Компьютерное зрениеАрхитектуры

Подробный разбор

3 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

Свёртка: локальность и общие веса

Почему для изображений не берут полносвязный слой.

Изображение 224×224×3 — это 150 528 входов. Полносвязный слой на 1000 нейронов потребовал бы 150 млн параметров только на первый слой. Свёрточное ядро 3×3 использует 27 весов и применяет их ко всем позициям.

(I * K) (i, j) = m \sum n \sum I (i + m, j + n) K (m, n)

Обозначения

$n$ число объектов в выборке
$\sum$ суммирование по всем перечисленным элементам

Локальность: пиксель связан прежде всего с соседями.
Разделение весов: один и тот же детектор края работает в любом месте картинки.
Трансляционная инвариантность: сдвиг объекта не меняет ответ.

Размеры, stride, padding, пулинг

Формула, которую полезно помнить наизусть.

H_{out} = ⌊ \frac{H _{in} + 2 p - k}{s} ⌋ + 1

Обозначения

$p$ вероятность (или плотность распределения)
$k$ номер или количество: индекс шага, число соседей, кластеров или позиций

k

— размер ядра,

p

— padding,

s

— шаг

Пример

Вход 224, ядро 3, padding 1, stride 2 → $(224 + 2 - 3) /2 + 1 = 112$ . Размер уменьшился вдвое — типичный «downsample» блок.

Рецептивное поле растёт с глубиной: два слоя 3×3 видят область 5×5, три — 7×7. Поэтому глубокая сеть из маленьких ядер эффективнее одного большого ядра и требует меньше параметров.

Скип-связи и ResNet

Как обучили сеть из 152 слоёв.

y = F (x, W) + x

Обозначения

$y$ истинное значение целевой переменной
$x$ объект: вектор признаков

Блок учит не саму функцию, а поправку к тождественному отображению

Производная суммы даёт единичный путь для градиента: $\partial y / \partial x = \partial F / \partial x + 1$ . Даже если блок «выключился», градиент проходит дальше без затухания. Именно это сделало возможным обучение очень глубоких сетей — и та же идея живёт в трансформерах.

Связанные темы

Свёртки и зрение

Ключевые тезисы

Подробный разбор

Свёртка: локальность и общие веса

Размеры, stride, padding, пулинг

Скип-связи и ResNet

Связанные темы

CNN85%

Image Classification85%

Object Detection85%

Segmentation85%

Feature extraction85%

Image preprocessing85%