Менеджер, Архитектура ML-решений - Token Factory

О Nebius:

Nebius возглавляет новую эру в облачной инфраструктуре для глобальной экономики ИИ. Мы создаем полнофункциональную облачную платформу ИИ, которая поддерживает разработчиков и предприятия от обучения данных и моделей до развертывания в производстве, без затрат и сложности создания большой внутренней инфраструктуры ИИ/ML.

Создано инженерами для инженеров. От крупномасштабной оркестровки GPU до оптимизации вывода, мы занимаемся сложными проблемами в области вычислений, хранения, сетевых технологий и прикладного ИИ.

Входит в список Nasdaq (NBIS) и штаб-квартирой в Амстердаме, мы имеем глобальное присутствие с центрами исследований и разработок по всей Европе, Великобритании, Северной Америке и Израилю. Наша команда из более 1 500 человек включает сотни инженеров с глубоким опытом в области аппаратного, программного обеспечения и исследований и разработок ИИ.

Роль

Эта позиция находится в Nebius Token Factory, нашей серверной платформе для запуска и настройки открытых LLM в производстве. Token Factory позволяет осуществлять серверную инференцию и тонкую настройку, поддерживаемую внутренними оптимизациями, такими как пользовательское спекулятивное декодирование, квантизация, маршрутизация с учетом кэша и выделенные конечные точки. Клиенты обращаются к нам, чтобы перейти от прототипа к масштабируемому производству без затрат и сложности создания и настройки собственного стека инференций.

Наши архитекторы решений отвечают за техническую реализацию проектов клиентов: развертывание открытых моделей, настройку стека обслуживания, тестирование на соответствие критериям успеха клиента и поддержание технических отношений до производства. Инженеры по продажам квалифицируют и определяют объем возможностей; архитекторы решений реализуют его. Менеджеры по техническим учетам ведут его с производства и далее.

Мы ищем менеджера по архитектуре ML-решений, чтобы возглавить наши региональные команды архитекторов решений в ЕС. Ваш объем - доставка PoC и постпродажная техническая поддержка: люди, которые это делают, стандарты, по которым они это делают, и рабочий темп, который делает это предсказуемым. Вы будете отчитываться перед руководителем архитектуры решений и работать с менеджером-партнером в другом регионе.

Мы ожидаем от вас, что вы будете стимулировать людей, когда им это нужно, принимать неудобные решения, когда результаты не соответствуют ожиданиям, несмотря на реальные усилия, и брать на себя ответственность за документацию: реализовывать и контролировать соблюдение руководств, чистоту билетов и обеспечивать, чтобы команда действительно использовала все три.

Вам разрешено работать удаленно из любой страны ЕС.

Ваши обязанности будут включать:

Руководство командой

• Управление командой из 8 архитекторов решений с запланированным дальнейшим ростом: индивидуальные встречи, постановка целей, оценка производительности, продвижение и планы индивидуального роста

• Создание точной картины сильных сторон, пробелов и предпочтений каждого архитектора решений и распределение учетных записей и проектов в соответствии с опытом и интересами

• Запустите процесс, который позволяет выявлять препятствия на ранней стадии, затем доводите их до сведения команд разработки, продукта и бизнеса, которые могут их устранить, и контролируйте их до полного решения

• Требуйте от сотрудников конкретных результатов: различайте усилия и достигнутые результаты, говорите об этом прямо, когда они расходятся, и отражайте это в оценках и решениях о компенсации

• Проводите адаптацию новых сотрудников до их первого самостоятельного проекта

• Наставляйте старших аналитиков, чтобы они стали более сильными инженерами и лучшими коммуникаторами, и принимайте осознанные решения о том, кто готов к более широкому кругу задач

Личная ответственность за доставку

• Отвечайте за результаты работы своей команды: время от начала PoC до первого оптимизированного выделенного endpoint, коэффициент успешности, качество технических отношений после того, как клиент переходит в стадию эксплуатации

• Проверяйте техническую работу до того, как она будет представлена клиенту: методология бенчмаркинга, конфигурации обслуживания, результаты, документы о закрытии; ловите неправильные выводы, сделанные из метрик артефакта, прежде чем клиент их увидит

• Обеспечивайте укомплектованность персоналом и покрытие эскалаций по счетам и часовым поясам, включая нагрузку послепродажных запросов, которая не уважает границы спринта

• Заявляйте о нереализуемости на ранней стадии и с доказательствами, а не позволяйте команде тратить итерации на требования, которые платформа не может выполнить сегодня

Управление операционной системой команды

• Поддерживайте и расширяйте документацию команды: обязанности, руководства, инструкции, адаптация, определения выполненной работы, шаблоны закрытия проектов. Поддерживайте ее точность и доступность; связывайте, не копируйте

• Сделайте так, чтобы документация использовалась, а не просто писалась: документация, которую никто не читает, является издержкой, а не активом

• Поддерживайте систему отслеживания заявок как систему учета, чтобы статус PoC и производства был доступен без запросов

• Отслеживайте работу: определяйте и сообщайте метрики, которые показывают, становится ли доставка быстрее и надежнее со временем

Работа с другими командами

• Команды разработки и исследований: преобразуйте повторяющиеся проблемы клиентов в приоритизированные задачи платформы и представляйте техническую реальность клиента в обсуждениях дорожной карты

• Предпродажная команда: контролируйте границу между этапами планирования и выполнения: отклоняйте недостаточно проработанные проекты и передавайте информацию о реализуемости обратно на более ранние этапы

• Управление счетами: обеспечивайте бесперебойную передачу производства и поддерживайте технические запросы после продажи

• Бизнес и руководство: предоставляйте точную информацию о состоянии счета, технической реализуемости и потребностях в мощности

Мы ожидаем, что у вас будет:

• 3+ года опыта управления техническими командами, включая управление производительностью и сложные разговоры

• Опыт управления командой, работающей с клиентами. Управление командой, работа которой видна клиентам, в соответствии с их графиком и с их эскалациями.

• Глубокие знания в области ML: архитектуры LLM, подходы к тонкой настройке (SFT/LoRA, на основе RL), дизайн оценки, а также практическое понимание внутренних механизмов вывода, квантование, управление KV-кэшем, пакетная обработка, маршрутизация, спекулятивное декодирование, и фреймворков, с которыми работает команда (vLLM, SGLang, TensorRT-LLM)

• Достаточно высокий технический уровень, чтобы проверять бенчмарки других людей и находить недостатки в методологии, а не только в выводах

• Хорошее владение Python, чтобы читать и проверять код своей команды