Czym różnią się pooling mean/max od learnable pooling?
Machine Learning / AI
Jak wybrać rozmiar wektora osadzeń?
Jakie są ograniczenia Whisper i jak je obejść (długi format, halucynacje)?
Czym jest NSP (predykcja następnego zdania) i dlaczego RoBERTa z niej zrezygnowała?
Czym jest LoRA i dlaczego działa (hipoteza niskiego rzędu)?
Czym jest meta-prompting i jakie są jego przypadki użycia?
Czym jest cross-encoder QA i jaki jest format wejścia?
Dlaczego w nowoczesnych LLM-ach konieczne jest ustawienie bias=False w warstwach liniowych?
Zaprojektuj system asystenta głosowego z niskim opóźnieniem (<500 ms) end-to-end.
Czym jest wyszukiwanie wiązkowe i dlaczego jest rzadko używane do generacji otwartej?
Jakie formaty kompresji (binarny, kwantyzacja skalara) występują w VDB?
Na czym polega pomysł algorytmu Byte Pair Encoding (BPE)? Opisz kroki treningu.
Jaka jest rola filtrów payload w bazie wektorowej?
Czym jest filter bubble i jak ją wykryć?
Czym jest DocVQA i jakie modele są tam popularne?