O volném místě
Ищут MLOps-инженера для развития инфраструктуры инференса и вывода ML-моделей в production. Гибридный формат с релокацией во Францию или Узбекистан; зарплата — от 3000 до 10000 USD на руки в месяц.
Задачи
- Владеть инфраструктурой инференса end-to-end и оптимизировать задержки, пропускную способность и стоимость модельного парка.
- Создавать и масштабировать model serving с TensorZero, vLLM, SGLang, TensorRT и Kubernetes.
- Проектировать и поддерживать пайплайны векторного поиска с vector storage.
- Работать с метриками поддержки SLA, FCR и deflection, определять KPI здоровья сервисов.
- Переводить экспериментальные модели исследовательской команды в production: оценивать готовность, настраивать форматирование и параметры sampling, выполнять деплой.
Условия
Гибридный формат работы с релокацией во Францию или Узбекистан.
Зарплата от 3000 до 10000 USD на руки в месяц.
Трудоустройство по ТК страны.
Команда
Команда русскоговорящая.
Будет плюсом
- Опыт с Rust.
- Опыт с custom Triton kernels.
- Опыт с benchmarks.
- Английский язык от уровня B2.