O volném místě
Яндекс ищет C++ разработчика в команду RuntimeNodes. Предстоит развивать DSL и сервис выполнения пайплайнов, оптимизировать многопоточный рантайм и заниматься инференсом генеративных языковых моделей на GPU.
Какие задачи вас ждут
- Максимизировать пропускную способность батч-контура и управлять сетевым уровнем в DSL.
- Развивать DSL описания пайплайнов и сервис их выполнения.
- Анализировать потребности клиентов и продуктовые решения вместе с потребителями.
- Заботиться о низкоуровневых оптимизациях, объёме передаваемых данных, пайплайнах и сетевом взаимодействии.
- Заниматься инференсом тяжёлых языковых генеративных моделей на GPU, аллокацией компонентов, настройкой взаимодействия с LLM-моделями и релизными процессами.
Формат работы
Гибридный формат работы.