Par vakanci
Ищут MLOps-инженера для развития инфраструктуры инференса и вывода ML-моделей в продакшен. Формат работы гибридный, возможна релокация во Францию или Узбекистан; зарплата составляет от 3000 до 10000 USD на руки.
Задачи
- Развивать инфраструктуру инференса end-to-end, оптимизируя задержку, пропускную способность и стоимость работы моделей.
- Создавать и масштабировать model serving с TensorZero, vLLM, SGLang, TensorRT и Kubernetes.
- Проектировать и поддерживать пайплайны векторного поиска и хранилища векторов.
- Определять KPI здоровья сервисов и работать с метриками SLA, FCR и deflection.
- Переводить экспериментальные модели исследовательской команды в продакшен: оценивать готовность, настраивать форматирование и параметры сэмплирования, выполнять деплой.
Условия
- Гибридный формат работы.
- Возможна релокация во Францию или Узбекистан.
- Зарплата от 3000 до 10000 USD на руки.
- Трудоустройство по ТК страны.
Будет плюсом
- Опыт с Rust.
- Опыт написания кастомных Triton-ядер.
- Опыт проведения бенчмарков.
- Английский язык от уровня B2; команда русскоговорящая.