Бос орын туралы
Яндекс ищет C++ разработчика базовых технологий генеративного ответа Поиска. Предстоит заниматься инференсом языковых моделей на GPU, backend генеративного ответа и внутренними инструментами для ML-прототипирования.
Задачи
- Инференс тяжёлых языковых генеративных моделей на GPU-ускорителях
- Разработка backend генеративного ответа Поиска
- Аллокация компонентов LLM-моделей и настройка их взаимодействия
- Настройка релизных процессов и подбор параметров для оптимизации
- Передача данных на вход модели и сохранение результатов для пользователей
- Настройка взаимодействия с фронтендом, включая стриминг
- Обеспечение возможностей для продуктовых и ML-команд проводить эксперименты и улучшать продукт
- Разработка внутренних инструментов для ML-прототипирования
- Разработка компонентов сервиса для создания и проверки прототипов генеративных ответов
- Настройка приёмочного процесса и перенос прототипов в рантайм
Условия
- Гибридный формат работы
Компания
Яндекс