Sobre a vaga
Предстоит проектировать архитектуру и разрабатывать единый рантайм для высоконагруженного сервиса на базе больших языковых моделей. Рантайм должен поддерживать как долгие агентские задачи, так и быстрые запросы без лишнего оверхеда.
Какие задачи вас ждут
- Проектировать архитектуру Алисы
- Разрабатывать новый рантайм
- Обеспечить единообразную работу с долгими задачами на десятки минут и быстрыми запросами на сотни миллисекунд без лишнего оверхеда
- Создать рантайм, который позволит улучшать систему в целом и отдельные компоненты: модели, тулы и агенты