Как работает tool calling в LLM?
Machine Learning / AI
По каким параметрам оценить память для инференса LLM и какие архитектурные оптимизации уменьшают KV-cache?
Можно ли настроить семантический поиск для новостного RAG, чтобы отвечать, кто сейчас владеет Ормузским проливом при нерегулярной смене событий?
Что такое bias-variance trade-off и как его по-разному решают градиентный бустинг и random forest?
Что такое разреженные векторы и где они встречаются в ML/NLP?
Почему для кодового агента недостаточно просто проиндексировать весь репозиторий для семантического поиска?
What features are there in batch preparation and sampling in DDP?
Чем в Python отличаются статические методы от методов класса?
Какие метрики и методы оценки RAG вы знаете?
Как в ассистенте для метрик решали сокрытие чувствительных данных?
Как вы решали задачу аудиомодерации: обучали ли кастомную модель?
Можно ли интерпретировать скоры классификационного бустинга как вероятности класса?
Что такое positional encoding и какие подходы сейчас обычно используются? Где применяется RoPE?
How does forced alignment help find bad audio-text pairs?
В рамках модерации нужно было только проверить наличие вставки или также перепроверять данные по базам?
Что представляет собой матрица после softmax над QKᵀ? Как распределены её значения?
Почему в градиентном бустинге используется градиент, а не просто разница между true и predicted?