Инженер по инфраструктуре машинного обучения

О Nebius:

Nebius возглавляет новую эру в облачной инфраструктуре для глобальной экономики искусственного интеллекта. Мы создаем полнофункциональную облачную платформу ИИ, которая поддерживает разработчиков и предприятия от обучения данным и моделям до развертывания в производстве, без затрат и сложности создания большой внутренней инфраструктуры ИИ/машинного обучения.

Построенная инженерами для инженеров. От крупномасштабной оркестровки GPU до оптимизации вывода, мы занимаемся сложными проблемами в области вычислений, хранения, сетевых технологий и прикладного ИИ.

Входит в список Nasdaq (NBIS) и штаб-квартирой в Амстердаме, мы имеем глобальное присутствие с центрами исследований и разработок по всей Европе, Великобритании, Северной Америке и Израилю. Наша команда из более 1 500 человек включает сотни инженеров с глубоким опытом в области аппаратного, программного обеспечения и исследований и разработок ИИ.

Роль

Мы ищем высококвалифицированного инженера по машинному обучению/ИИ, чтобы присоединиться к нашей команде и возглавить и поддержать бенчмаркинг платформ GPU для рабочих нагрузок машинного обучения и ИИ. Вы сыграете решающую роль в оценке производительности аппаратного обеспечения на основе GPU для различных фреймворков глубокого обучения и ИИ, что позволит принимать обоснованные решения для оптимизации платформы и разработки аппаратного обеспечения следующего поколения.

Ваши обязанности будут включать:

• Тесное сотрудничество с аппаратными, разработческими командами для профилирования и анализа производительности GPU на уровне системы и ядра.

• Оценка и сравнение производительности GPU на разных платформах, архитектурах и программных стеках (например, CUDA, ROCm).

• Отладка и оптимизация рабочих нагрузок ML для эффективной работы на аппаратном обеспечении GPU, выявление и устранение узких мест производительности.

• Выполнение приемочных испытаний для новых кластеров GPU, обеспечение того, чтобы аппаратное и программное обеспечение соответствовали требованиям производительности, стабильности и совместимости для рабочих нагрузок ИИ.

• Проведение экспериментов на различных конфигурациях систем GPU для оценки влияния различных стратегий взаимосвязи и оптимизаций на уровне системы на производительность и масштабируемость.

• Разработка инструментов и панелей для визуализации метрик производительности, узких мест и тенденций.

• Вклад в внутренние инструменты, фреймворки и лучшие практики

Мы ожидаем, что у вас будет:

• Глубокое понимание теоретических основ машинного обучения

• Глубокое понимание аспектов производительности обучения больших нейронных сетей и вывода (параллелизм данных/тензоров/контекста/эксперта, разгрузка, пользовательские ядра, функции аппаратного обеспечения, оптимизации внимания, динамическое пакетирование и т. д.)

• Большой опыт работы с современными фреймворками глубокого обучения (PyTorch, JAX, Megatron-LM, Tensort-LLM)

• Хорошее понимание стека GPU: CUDA, NCCL, драйверы и соответствующие библиотеки

• Знакомство с контейнеризированными средами (например, Docker, Kubernetes).

• Сильные коммуникативные навыки и способность работать самостоятельно

Способы выделиться из толпы:

• Знакомство с современными фреймворками вывода LLM (vLLM, SGLang, TensorRT)

• Опыт работы с Python и инструментами профилирования производительности (например, Nsight, nvprof, perf).

• Знакомство с облачными платформами машинного обучения, такими как AWS, GCP, Azure ML

• Участие в разработке инструментов бенчмаркинга машинного обучения с открытым исходным кодом

Преимущества и льготы:

• Конкурентная компенсация

• Возможности карьерного роста и обучения

• Гибкость и автономность

• Коллаборативная и инновационная культура

• Возможность работать над impactful проектами ИИ

• Международная среда и талантливые команды

Что значит работать в Nebius:

Быстрое движение - Смелое мышление - Постоянный рост - Значимое влияние - Доверие и реальная собственность - Возможность формировать будущее ИИ

Заявление о равных возможностях:

Nebius - это работодатель с равными возможностями. Мы стремимся создать инклюзивную и разнообразную рабочую среду и предоставляем равные возможности трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любого другого признака, защищенного применимым законом.

Соискатели должны иметь разрешение на работу в стране, в которой они подают заявление, и будут обязаны предоставить доказательство права на трудоустройство в качестве условия приема на работу.

Если вам необходимы accommodations во время процесса подачи заявления, пожалуйста, сообщите нам.