Machine Learning / AI
Что такое позиционные эмбеддинги и для чего они нужны? Какие виды (sinusoidal, learned, RoPE, ALiBi) и для чего каждый?
Какие знаете трансформеры для задач Computer Vision (ViT, Swin, DeiT, DETR, BEiT)?
Как отлавливать момент изменения распределения данных (дрейф данных)?
Что такое cold start problem (user/item) и как его решают?
В чем разница между NaN и None в Python?
Сформулируйте задачу Maximum Likelihood Estimation и запишите формулу.
Какие приёмы повышают точность маленьких LLM (Llama 3 8B, Mistral 7B) на сложных задачах?
Был ли опыт минимизации размера модели или ее оптимизации?
Расскажи про cross-encoder и bi-encoder, в чём разница?
Что такое beam search и почему его редко используют для open-ended generation?
Что такое model-based RL в роботах?
Что такое feature store и какие задачи он решает (Feast, Tecton)?
Какие задачи решает ML в робототехнике (perception, planning, control)?
Что такое re-ranking и cascade architecture поисковика?
Что такое BERT-as-a-reranker подход?
Как замерять bias и variance модели?
Что такое NDCG и как он считается?
Как контролировать качество данных в проектах?
Что такое Triton (OpenAI) и где он удобнее CUDA C++?
Что такое REINFORCE и его проблемы?