Глубокое обучение

Deep Learning

Обучение сетей, архитектуры, регуляризация и оптимизаторы

Направление атласа: Глубокое обучение. Спрашивают: Лаборатория Касперского, YADRO. Закрывает проверки: Секция по глубокому обучению (1), Научная секция (1).

Как обучается нейросеть: что происходит на обратном проходе, зачем нормализация и dropout, чем Adam отличается от SGD и почему обучение иногда расходится.

15вопросов в заходе
24всего в банке
4оси знаний
~11минут на прохождение
Что спрашивать
Уровень
ОбучениеАрхитектурыРегуляризацияОптимизация
  1. Отвечаете на вопрос — сразу видите разбор, а не только «верно/неверно».
  2. В конце получаете результат по осям и список тем, которые стоит перечитать.
  3. Темы с ошибками ставятся на повторение — кабинет напомнит о них через 3, 7 и 21 день.

Открытые задачи

2 задачи без вариантов ответа — такие дают на собеседовании уровня middle и senior. Ответ проверяется по чек-листу: он остаётся в браузере и не идёт в результат теста.

Обучение шло нормально и на третьей эпохе loss стал NaN. Опишите порядок диагностики.

ОбучениеSenior

Сначала ответьте — иначе проверка превращается в чтение.

Train loss продолжает падать, validation loss растёт с пятой эпохи. Что вы сделаете и в каком порядке?

РегуляризацияMiddle

Сначала ответьте — иначе проверка превращается в чтение.