Вычислительная инфраструктура, обучение больших моделей, эффективность
Разработчик вычислительной и телеком-инфраструктуры: серверы, системы хранения, процессоры, оборудование связи. Для ML-специалиста здесь редкая специфика — работа близко к железу: как эффективно занять ускорители, сколько стоит обучение большой модели, как ускорить инференс на конкретной архитектуре. Отбор с сильным инженерным уклоном.
Порядок и состав секций меняются от команды к команде — это типовая схема, собранная по открытым источникам. Этапы, на которых проверяют знания, ведут в разбор формата: что оценивают и чем закрывать пробелы.
Рекрутер уточняет направление: инфраструктура обучения, оптимизация моделей, прикладные ML-задачи в продуктах.
Алгоритмическая секция: сложность, память, структуры данных. Близость к железу требует основ.
Секция по глубокому обучению: как устроено обучение, что происходит с памятью и градиентами.
Секция по эксплуатации: запуск обучения на кластере, воспроизводимость, мониторинг утилизации.
На middle+ — дизайн: кластер обучения или сервис инференса под заданный бюджет.
Руководитель: задачи, уровень, работа на стыке с аппаратными командами.
4 формата проверки из отбора YADRO — и тест атласа под каждый. Слабые места видно сразу после захода, а темы для разбора собираются автоматически.
Живое кодирование: решение вслух и код в редакторе
На чём валятсяОбучение сетей: архитектуры, регуляризация, отладка
На чём валятсяПайплайны, выкат, мониторинг, дрейф и воспроизводимость
На чём валятсяОт постановки до эксплуатации на одной доске
На чём валятся19 тем по всем направлениям YADRO — если команда ещё не выбрана. Программа разложит их по неделям от математики к продакшену; под конкретное направление список короче, и его можно собрать ниже.
Эти 19 тем можно разложить по неделям: программа выстроит их от математики к продакшену, поставит тест в конце каждой недели и вернёт тему на повторение, если вы в ней ошиблись. Выйдет примерно 4 недели под YADRO · Все направления.
Проверяем, вошли ли вы…
Выберите направление: обязательные темы со ссылками в атлас, типовые вопросы с ответами и тест для самопроверки.
Запуск и сопровождение обучения больших моделей: распределение по картам и узлам, ввод-вывод данных, утилизация, отказы. Специфика — цена простоя кластера и то, что узкое место редко там, где его ищут в первую очередь.
Эти 10 тем можно разложить по неделям: программа выстроит их от математики к продакшену, поставит тест в конце каждой недели и вернёт тему на повторение, если вы в ней ошиблись. Выйдет примерно 2 недели под YADRO · Инфраструктура обучения.
Проверяем, вошли ли вы…
Сначала в подаче данных: чтение и предобработка часто не успевают за вычислением. Затем в синхронизации между процессами и в размере батча. И только потом в самой модели. Профилировать нужно по шагам итерации — догадки здесь почти всегда ошибочны.
Разбор в атласе: Training Throughput — Ускорение обучения →В первом на каждой карте полная копия модели и своя часть батча, синхронизируются градиенты; во втором модель разрезана между картами. Данные проще и эффективнее, пока модель помещается в память карты; когда не помещается, подключают тензорный и конвейерный параллелизм и платят за это связностью и сложностью.
Разбор в атласе: Distributed Training — Распределённое обучение →Смешанная точность, накопление градиентов вместо большого батча, пересчёт активаций вместо их хранения, шардирование состояний оптимизатора. Порядок применения — от дешёвого к дорогому по потере скорости, и каждый шаг проверяется замером, а не ожиданием.
Разбор в атласе: Mixed Precision — Смешанная точность →Регулярные контрольные точки и возможность продолжить с последней: на длинных запусках отказ узла — это не исключение, а ожидаемое событие. Частота сохранения выбирается по стоимости потерянных вычислений против стоимости записи состояния.
Разбор в атласе: Backups and Redundancy — Резервирование и бэкапы →