Machine Learning / AI
Расскажите про PagedAttention в vLLM.
Что такое ELBO и почему его максимизируют?
Какие use-кейсы on-device LLM (Gemini Nano, Phi-3-mini)?
Почему сейчас чаще используется PyTorch вместо TensorFlow?
Как файнтюнить BERT под NER? Какая loss и токенизация меток?
Если умножить все скоры модели на 2, изменится ли ROC AUC?
Что такое режим DART в бустинге?
Что такое counterfactual learning to rank?
Отдавали ли вы образ с Dockerfile в репозиторий для деплоя модели?
Какая роль у residual connection и LayerNorm в Transformer-блоке?
Что такое sequence packing при тренировке LLM?
Что такое регуляризация L1 и L2? Как она помогает при переобучении?
Что такое safety classifier на выходе диалога?
Как вывести уникальные значения по столбцу в SQL?
Как использовать курс валют с последнего доступного дня для выходных и праздников?
Зачем нужна аугментация данных?
Что такое RLHF? Опишите три этапа обучения.
Какие задачи решают KG embeddings (link prediction, entity typing)?
Как кешировать самые частые запросы в RAG?
Можно ли использовать линейную регрессию в условиях смещения выборки?