Az állásról
Команда развивает GenAI-платформу для промышленного использования цифровых сотрудников и AI-агентов на базе open-source LLM/VLM. Инженер будет отвечать за инфраструктуру, CI/CD, эксплуатацию и масштабирование LLM-сервисов.
О компании и продукте
Компания Selecty (КА). Команда разрабатывает платформу цифровых помощников и экосистему AI-агентов для сотрудников банка. Решения помогают автоматизировать процессы, оптимизировать расходы и внедрять генеративные нейросети в бизнес-практику крупного и среднего сегмента.
Проект — новая GenAI-платформа для построения и промышленного использования цифровых сотрудников на базе open-source LLM/VLM.
Задачи
- Разрабатывать и развивать CI/CD-пайплайны для сборки и деплоя AI-агентов
- Развертывать и сопровождать LLM/VLM в production
- Оптимизировать inference и управлять ресурсами в Kubernetes
- Проектировать backend-сервисы GenOps/self-service платформы на REST и gRPC
- Обеспечивать масштабируемость и отказоустойчивость LLM-сервисов
- Настраивать комплексный мониторинг инфраструктуры и качества генерации
- Внедрять и поддерживать RAG-сценарии
- Участвовать в troubleshooting; опыт 3-й линии поддержки будет плюсом
Обязательные требования
- Коммерческий опыт в MLOps / DevOps от 3 лет
- Уверенная работа с Kubernetes: деплой, масштабирование, настройка ресурсов
- Опыт построения CI/CD с Jenkins или аналогичными инструментами
- Глубокое понимание Docker и контейнеризации
- Опыт работы с PostgreSQL и Redis
- Практический опыт внедрения сервисов на базе LLM
Будет плюсом
- Опыт оптимизации inference больших языковых моделей
- Работа с vLLM, Triton или SGLang
- Опыт с векторными и графовыми базами данных
- Понимание ML System Design
- Опыт поддержки highload-систем
- Банковский опыт
Условия
- Уровень дохода: 250–340 к на руки
- Оформление по ТК РФ
- ДМС, включая стоматологию
- Компенсация фитнеса
- Скидки на обучение английскому в Skyeng
- Индексация заработной платы
Технологический стек
- Python, FastAPI
- LangChain, LlamaIndex, Haystack
- PyTorch
- Kubernetes, Docker
- CI/CD: Jenkins, DevOps Kit
- PostgreSQL, Redis, Tarantool
- S3
Отклик
Для отклика пишите @alinarood.