Старший инженер по машинному обучению (Token Factory)

О Nebius:

Nebius возглавляет новую эру в облачной инфраструктуре для глобальной экономики ИИ. Мы создаем полнофункциональную облачную платформу ИИ, которая поддерживает разработчиков и предприятия от обучения данным и моделям до развертывания производства, без затрат и сложности создания большой внутренней инфраструктуры ИИ/МО.

Построено инженерами для инженеров. От крупномасштабной оркестровки GPU до оптимизации вывода, мы владеем сложными проблемами в области вычислений, хранения, сетевых технологий и прикладного ИИ.

Входит в список Nasdaq (NBIS) и штаб-квартирой в Амстердаме, мы имеем глобальное присутствие с центрами исследований и разработок по всей Европе, Великобритании, Северной Америке и Израилю. Наша команда из более 1 500 человек включает сотни инженеров с глубоким опытом в области аппаратного обеспечения, программного обеспечения и исследований и разработок в области ИИ. Роль Token Factory является частью Nebius Cloud, одного из крупнейших облаков GPU в мире, на котором работают десятки тысяч GPU. Мы создаем высокопроизводительную платформу для вывода и тонкой настройки, предназначенную для того, чтобы подтолкнуть модели-фундаменты к их аппаратным пределам. Наша миссия - максимизировать пропускную способность, минимизировать задержку и оптимизировать стоимость на токен для десятков тысяч GPU.

Некоторые направления, над которыми мы сейчас работаем и в которых вы можете принять участие:

• Оптимизация вывода: выявление узких мест вывода LLM для ускорения производства. Выжимание максимальной производительности для широкого спектра архитектур LLM в масштабе (например, GPT-OSS, Kimi K2.5, DeepSeek V3.1/V3.2, GLM-5).

• Поддержка движков вывода: реализация новых архитектур спекулятивного декодирования, оптимизация компонентов различных дизайнов LLM (плотные/MoE, авторегрессионные/параллельные) и вклад в открытые движки вывода.

• Обучение и вывод с низкой точностью: проектирование и внедрение конвейеров обучения и вывода с низкой точностью (FP8, NVFP4/MXFP4) с измеримыми gains в пропускной способности и эффективности затрат.

Мы ожидаем от вас:

• Глубокое понимание теоретических основ машинного обучения и архитектуры трансформеров.

• Опыт профилирования нагрузок GPU с помощью Nsight, PyTorch profiler или аналогичных инструментов

• Понимание иерархии памяти GPU и компромиссов между вычислениями и памятью

• Знакомство с важными идеями в области LLM, такими как MHA, RoPE, KV-кэш, Flash Attention и квантизация

• Понимание аспектов производительности обучения больших нейронных сетей (стратегии шардирования, пользовательские ядра, аппаратные функции и т. д.)

• Сильные навыки программной инженерии (мы в основном используем Python)

• Глубокий опыт работы с современными фреймворками глубокого обучения

• Умение работать с современными подходами к программной инженерии, включая CI/CD, контроль версий и модульное тестирование

• Сильные коммуникативные и лидерские способности

Приятно иметь:

• Опыт работы с открытыми движками вывода (vLLM, SGLang, TensorRT-LLM), включая вклад

• Опыт работы с языками ядра или DSL, такими как Triton, Cute, CUTLASS, CUDA

• История создания и поставки продуктов (не обязательно связанных с машинным обучением) в динамичной среде стартапа.

• Сильные инженерные навыки, включая опыт разработки крупномасштабных распределенных систем или веб-сервисов с высокой нагрузкой.

• Открытые проекты, демонстрирующие ваше инженерное мастерство

• Отличное владение английским языком, а также превосходные навыки письма, артикуляции и коммуникации.

Преимущества и льготы:

• Конкурентная компенсация

• Возможности карьерного роста и обучения

• Гибкость и ответственность

• Коллективная и инновационная культура

• Возможность работать над impactful проектами ИИ

• Международная среда и талантливые команды

Что значит работать в Nebius:

Быстрое движение - Смелое мышление - Постоянный рост - Значимое влияние - Доверие и реальная собственность - Возможность формировать будущее ИИ

Заявление о равных возможностях:

Nebius - это работодатель с равными возможностями. Мы привержены созданию инклюзивной и разнообразной рабочей среды и предоставлению равных возможностей трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любого другого признака, защищенного применимым законом.

Заявители должны иметь разрешение на работу в стране, в которой они подают заявление, и будут обязаны предоставить доказательство права на трудоустройство в качестве условия приема на работу.

Если вам необходимы accommodations во время процесса подачи заявления, пожалуйста, сообщите нам.