Собеседование по системному дизайну для AI-инженера: практическое руководство

Автор: Aaron Cao · Обновлено

На нём вас просят спроектировать систему машинного обучения от начала до конца: данные и признаки, обучение и оценку, обслуживание (serving) и задержку, мониторинг и дрифт. Последние раунды сильно смещены в сторону retrieval augmented generation (RAG) и обслуживания моделей. Оценивают компромиссы, которые вы можете обосновать, а не единственно правильную архитектуру.

Что на самом деле проверяет этот раунд

При первом знакомстве вопрос звучит невероятно широко: спроектируйте рекомендательную систему или спроектируйте чат-бота поверх внутренних документов компании. Этот раздел объясняет, что именно оценивает интервьюер, чтобы широта темы перестала быть проблемой. Короче говоря, оценивают, можете ли вы превратить расплывчатый продуктовый запрос в систему с привязанными к ней числами.

Четыре вещи определяют большую часть оценки:

  • Скоупинг.Спрашиваете ли вы, кто пользователи, сколько запросов в секунду и какой порог качества считается успехом, прежде чем что-то рисовать?
  • Понимание данных.Откуда берутся обучающие данные, как они размечаются и что утекает между обучением и обслуживанием?
  • Оценка качества.Офлайн-метрики плюс онлайн-guardrail. Ответ без плана оценки звучит как junior-уровень, независимо от того, насколько хороша архитектура.
  • Продакшн-чутьё.Бюджет задержки, стоимость на запрос, частота переобучения и что происходит, когда модель ошибается.

Задачи, которые повторяются снова и снова

Пять типов задач охватывают большинство собеседований по системному дизайну для AI-инженера:

  • Retrieval augmented generation по приватным документам.Стратегия чанкинга, выбор модели embedding, векторный индекс, reranking, и что вы делаете, когда retrieval не возвращает ничего релевантного.
  • Обслуживание моделей в большом масштабе.Батчинг, квантизация, поддержание GPU в постоянной занятости, кэширование и целевая задержка p99, на которую вы согласились во время скоупинга.
  • Рекомендации или ранжирование.Генерация кандидатов, затем ранжирование, feature store, skew между обучением и обслуживанием, cold start.
  • Пайплайн признаков.Стриминг против батча, point-in-time корректность, backfill.
  • Агентный workflow.Вызов инструментов, лимиты шагов, потолки по стоимости и то, как вмешивается человек. Более полный банк вопросов находится в разделе типы собеседований.

У каждой из этих задач есть один сложный момент, которого ждёт интервьюер. Для retrieval это оценка качества, потому что назвать векторную базу данных может каждый, а вот сказать, как измерить, улучшился ли retrieval, могут немногие. Для serving это компромисс между стоимостью и задержкой относительно размера модели.

Структура, которая выдерживает 45 минут

Потратьте первые пять минут на требования и числа и запишите их там, где интервьюер сможет их видеть: запросы в секунду, приемлемая задержка, порог качества, бюджет. Всё, что последует далее, будет отсылать к этим четырём числам, и именно это делает ответ похожим на инженерную работу, а не на экскурсию по инструментам.

Затем двигайтесь в ширину: диаграмма с источниками данных, офлайн-обучением, artifact store, путём обслуживания и петлёй обратной связи. Только когда вся картина сложилась, переходите к глубокому разбору, и пусть интервьюер сам выбирает компонент. Завершите, назвав два режима отказа и то, что вы будете мониторить, чтобы выявить каждый из них.

Инженер по машинному обучению, проходившая собеседование на senior-позицию в поисковой компании, получила задание спроектировать семантический поиск по тикетам поддержки. Она потратила четыре минуты на скоупинг, зафиксировала 200 миллисекунд на p95 и фиксированный ежемесячный бюджет на инференс, а затем использовала оба числа, чтобы отклонить большой reranker в пользу небольшого cross-encoder поверх топ-50 кандидатов. Оценивался именно этот компромисс, а не выбор модели.

Где живой ассистент помогает на раунде дизайна

Системный дизайн — это устная и визуальная работа, поэтому ассистент помогает здесь меньше, чем на других раундах. Что он может сделать — это держать чек-лист у вас перед глазами. SubcueAI слушает аудио встречи и выводит структуру на локальный оверлей: вопросы по скоупингу, которые вы ещё не задали, раздел оценки качества, который вы пропустили, режимы отказа, которые стоит назвать. Десктопное приложение на macOS и Windows захватывает системный звук плюс ваш микрофон; боковая панель расширения браузера захватывает только аудио вкладки встречи, поэтому слышит интервьюера, но не транскрибирует вас. Ни один бот не подключается к звонку.

На этом раунде ограничения важнее, чем на большинстве других. Если вы делитесь экраном, чтобы нарисовать диаграмму, оверлей окажется внутри того, чем вы делитесь. Прокторинговые тесты и машины, управляемые компанией, находятся вне зоны применимости, и ни один инструмент не является универсально необнаружимым. Ассистент также не может придумать за вас архитектурное суждение, которое оценивается. Тренировка этих задач против AI-интервьюера на странице пробного собеседования развивает именно это; оверлей лишь не даёт вам забыть про оценку качества на 30-й минуте.

Частые вопросы

Нужно ли мне знать название конкретной векторной базы данных?

Назвать одну — это нормально, важнее уметь обосновать этот выбор. Интервьюеры спрашивают, почему именно этот индекс, в чём компромисс по recall и как вы будете переиндексировать без простоя.

Сколько математики требуется на этих раундах?

Достаточно, чтобы прикинуть масштаб: размерность embedding относительно памяти индекса, токены относительно стоимости, размер батча относительно задержки. Выводы формул случаются редко, а устный арифметический расчёт — обычное дело.

Отличается ли собеседование по системному дизайну для AI-инженера от классического?

Фреймворк тот же самый. Разница в том, что данные, оценка качества и жизненный цикл модели несут тот вес, который в классическом раунде отдан шардированию и консистентности.

Может ли SubcueAI помочь, пока я рисую диаграмму?

Он может подсказывать те части фреймворка, которые вы ещё не охватили. Если диаграмма находится на общем экране, помните, что оверлей окажется внутри того, чем вы делитесь.

Похожие вопросы

← Подробнее: Типы собеседований