ML-платформа и инференс, надёжность сервисов, прогноз нагрузки
Провайдер облачной инфраструктуры и выделенных серверов, включая аренду карт для обучения и инференса. ML-специалист здесь работает по обе стороны: строит сервисы для клиентов, которые обучают свои модели, и применяет модели внутри — для прогноза нагрузки, планирования мощностей и обнаружения отказов оборудования.
Порядок и состав секций меняются от команды к команде — это типовая схема, собранная по открытым источникам. Этапы, на которых проверяют знания, ведут в разбор формата: что оценивают и чем закрывать пробелы.
Рекрутер уточняет направление: ML-сервисы для клиентов, внутренняя аналитика и надёжность, платформа.
Алгоритмическая секция: структуры данных, сложность, системное мышление.
Секция по эксплуатации: контейнеры, выкат, мониторинг, работа с GPU-инфраструктурой.
Дизайн-секция: сервис инференса с SLA — задержка, отказоустойчивость, стоимость.
ML-секция: модели и валидация — глубина зависит от роли, во внутренней аналитике она выше.
Команда, задачи, уровень.
4 формата проверки из отбора Selectel — и тест атласа под каждый. Слабые места видно сразу после захода, а темы для разбора собираются автоматически.
Живое кодирование: решение вслух и код в редакторе
На чём валятсяПайплайны, выкат, мониторинг, дрейф и воспроизводимость
На чём валятсяОт постановки до эксплуатации на одной доске
На чём валятсяКлассика табличных задач и честная проверка качества
На чём валятся20 тем по всем направлениям Selectel — если команда ещё не выбрана. Программа разложит их по неделям от математики к продакшену; под конкретное направление список короче, и его можно собрать ниже.
Эти 20 тем можно разложить по неделям: программа выстроит их от математики к продакшену, поставит тест в конце каждой недели и вернёт тему на повторение, если вы в ней ошиблись. Выйдет примерно 4 недели под Selectel · Все направления.
Проверяем, вошли ли вы…
Выберите направление: обязательные темы со ссылками в атлас, типовые вопросы с ответами и тест для самопроверки.
Сервисы для запуска моделей клиентов: изоляция, масштабирование, батчинг, учёт потребления. Специфика — чужие модели с непредсказуемым профилем нагрузки и жёсткие обязательства по доступности.
Эти 10 тем можно разложить по неделям: программа выстроит их от математики к продакшену, поставит тест в конце каждой недели и вернёт тему на повторение, если вы в ней ошиблись. Выйдет примерно 2 недели под Selectel · Платформа инференса.
Проверяем, вошли ли вы…
Не так, как обычный веб-сервис: карта дорога, и главное — утилизация. Масштабируют числом реплик по очереди запросов, а внутри реплики — динамическим батчингом. Холодный старт модели на карте занимает секунды, поэтому автоматическое масштабирование должно работать на опережение.
Разбор в атласе: Scaling — Масштабирование →В очереди и в соседях: динамический батчинг увеличивает задержку при росте нагрузки, а несколько моделей на одной карте конкурируют за память и вычисления. Смотрят распределение задержки по квантилям, а не среднюю: проблема почти всегда в хвосте.
Разбор в атласе: Observability — Наблюдаемость →По занятой карте и по времени: доля карты, память под веса и кеш, среднее число запросов. Отсюда решения о совмещении нескольких моделей на карте и об ограничении размера контекста — они напрямую определяют экономику сервиса.
Разбор в атласе: Cost Model — Экономика сервиса →Переключение трафика на здоровые реплики без ручного вмешательства, повтор идемпотентных запросов, честный отказ с понятным кодом там, где повтор невозможен. Плюс ограничение нагрузки, чтобы отказ одного узла не уронил остальные каскадом.
Разбор в атласе: Reliability — Отказоустойчивость →