ML Breadth: технический собес для пиндосовВ другом посте о
research стажировках в MANGA+ обещал рассказать про эту зверюгу ML Breadth. Это самый популярный этап, который встречается абсолютно везде: от небольших стартапов до гигантов вроде MANGA. Причем неважно, метите вы на позицию стажера или стаффа. Простыми словами это просто технический собес типо названным умным словом.
Чаще всего эту секцию ставят на ранних этапах или на скрининге, когда воронка кандидатов огромна и нужно быстро отсеять тех, у кого хромает фундаментальная база. Его очень недолюбливают практики, которые скажем мягко "присытелись образованием" и сетуют в интернете на то, что такие вопросы далеки от реальных рабочих задач, ведь темы охватывают широкий спектр от университетского матана до современных архитектур. Ниже разберем, из чего состоит эта секция и как она меняется в зависимости от вашей роли.
О чем вообще спрашиваютСпектр вопросов можно условно разбить на несколько больших блоков:
1. Математическая база. Сюда входит линал и матан (нормы, скалярные произведения, критерии дифференцируемости), численные методы (оптимизация, градиентный спуск и его вариации) и теория вероятностей. Причем тервер могут спросить как на уровне базовых определений, так и в формате задачи на листочке (например, расчет вероятности отказа системы или экспоненциальное распределение).
2. Статистика. Либо проверка гипотез, либо вопросы про проектирование A/B-тестов под конкретную фичу.
3. ML и DL теория. Классика вроде bias-variance trade-off и регуляризации. Отдельно стоит выделить теорию глубокого обучения: почему работает backprop, зачем нужна нормализация, что такое vanishing/exploding gradients. Кстати, по опыту, вопросы про устройство обратного распространения ошибки или смысл операции свертки очень часто ставят кандидатов в ступор.
4. Методы и алгоритмы. Вам нужно не просто знать, как работает логистическая регрессия, Random Forest, бустинг или DBSCAN, но и быть готовым обсудить их математический аппарат. В контексте DL сейчас чаще всего спрашивают про устройство трансформеров.
5. Метрики и лоссы. В отечественных компаниях обожают спрашивать метрики ранжирования и смысл ROC AUC. На западе чаще интересуются оценкой классификации/регрессии. Будьте готовы объяснить log-loss, KL-дивергенцию или ELBO.
6. Мини ML Design. Дают прикладную задачу и просят описать концептуальный пайплайн решения, но детально углубляться во все шаги не нужно, только в один конкретный. Научиться щелкать такие кейсы можно на нашем курсе
ML System Design, где море практики, шесть качественных пет проектов, живые семинары, мок собесы и карьерное сопровождение. Сейчас идут
последние 8 часов скидки в честь черной пятницы! Успей записаться по выгодной цене!
➡️ ЗаписатьсяЕстественно, реальный набор тем будет зависеть от вашей специализации. LLM-инженера в AI Safety-стартапе будут спрашивать про трансформеры и RL, а для кредитного скоринга про бустинги и Gini.
В чем разница между грейдами и ролямиТо, насколько глубоко вас будут копать, зависит от двух вещей: грейда и специфики команды.
По грейдам: Чем ниже позиция (стажер/джун), тем больше дрочево по теории. Интервьюер будет целенаправленно искать пробелы в базе и может спросить то, что сеньор уже подзабыл. Чем выше грейд, тем чаще спрашивают прикладные вещи. Например, нюансы обучения моделей в разных точностях (fp8 vs fp32). Но это не значит, что миддлам не задают фундаментальных вопросов. Просто плотность вопросов и детализация ответов будут другими. С джунами могут задержаться на одной теме дольше и уйти глубже.
По ролям: В продуктовых командах теорию копают реже, отдавая приоритет прикладным навыкам. Спрашивать про теоретическую сходимость градиентных методов будут вряд ли, а вот зачем нужен Layer Norm в трансформерах вполне. В исследовательских командах (Research) ситуация обратная: там вас ждет глубокий академический экзамен.
Форматы проведенияИногда это отдельный раунд на 45–60 минут, где вас просто закидывают вопросами в ширину. Но часто Breadth комбинируют с другими секциями: ML Design + Breadth, ML Coding + Breadth, Behavioural + Breadth. В таком случае на теорию отводят минут 20, а остальное время пишут код.
Кейсы реальных компаний•
DeepMind. Настоящий канон академического подхода. Здесь спокойно могут устроить экзамен по вышке: попросить рассказать про выпуклые функции и их роль в ML, объяснить метод Ньютона и оптимизацию второго порядка, вывести ряд Тейлора, описать формулу Байеса или метод Гаусса для обращения матриц.
•
AI-стартапы (Mistral AI, ElevenLabs). Здесь отошли от общего матана и фокусируются на домене. У Mistral есть отдельная секция LLM Quiz, где 45 минут пытают деталями обучения языковых моделей. ElevenLabs на позициях ресерч-инженеров спрашивает про аудиокодеки и иерархическое кодирование данных в авторегрессионных моделях.
•
OpenAI. Любят гибридный формат: сначала просят подвести математическую базу, а потом написать код. Пример задачи: написать функцию
weighted_random_choice (взвешенный случайный выбор), где придется применить знания из теории вероятностей.
•
МANGA. Для продуктовых ML-инженеров секции Breadth может не быть вообще все проверят на ML System Design. А вот для исследовательских ролей (Applied Scientist в Amazon) формат будет близок к DeepMind.
•
Финансовые организации (HFT-фонды, Jane Street, Goldman Sachs). Здесь ML Breadth часто превращается в заковыристые задачи на теорию вероятностей и комбинаторику.
Подписаться: @zadachi_ds