O volném místě
Ищут Senior AI/LLM Infrastructure Engineer для построения production-инфраструктуры вокруг LLM. Задачи включают развитие AI-пайплайнов, измерение качества ответов, оптимизацию latency и стоимости inference, а также работу с большими объёмами запросов и данных.
Что предстоит делать
- Строить и развивать AI/LLM-пайплайны в production
- Работать с подготовкой данных для моделей и структурированным извлечением информации
- Проектировать structured output и валидацию ответов
- Создавать тестовые наборы и regression-прогоны для LLM
- Измерять качество ответов моделей и находить причины ошибок
- Участвовать в выборе и замене моделей
- Оптимизировать latency и стоимость inference
- Работать с большими объёмами запросов и данных
- Развивать backend и инфраструктуру вокруг AI
Условия
- Удалённая работа
- Full-time
- Вилка от 2 000 до 3 500 USD
Компания
https://vesper-team.ru