Machine Learning / AI
Ako zmenšiť veľkosť KV cache (GQA, MQA, posuvné okno)?
Prečo sa nemôže učiť len z výstupov v gradientovom boostingu?
Čo sú generatívne modely molekúl?
Aké metódy regularizácie existujú pre nelineárne modely?
Čo je beam search a prečo sa zriedka používa na open-ended generáciu?
Ako funguje rozhodovacie strom?
Čo je NSP (predikcia nasledujúcej vety) a prečo sa od nej RoBERTa odklonila?
Čo je to separácia zdrojov (Demucs, Spleeter)?
Ako vypočítať vek v rokoch medzi aktuálnym dátumom a dátumom narodenia v Pythone?
Ktoré learning rate je treba použiť pre veľký batch a ktoré pre malý? Aké pravidlá (pravidlo lineárneho škálovania) poznáte?
Prečo je potrebná metrika pre stratifikáciu?
Čo je FlashAttention z pohľadu kernelového programovania?
Ako prepojiť databázu otázok a odpovedí s externou webovou stránkou na riešenie úlohy?
Čo je bezpečné zhlukovanie?
Ako normalizovať číselné hodnoty a minimalizovať vplyv odľahlých hodnôt?
Čo je Monte Carlo Data?
Čo je FSDP a ako sa líši od DDP?
Čo je relevantné odporúčanie?
Ako vybrať symbol pri viacerých maximálnych po sebe idúcich symboloch?
Aké praktické triky zrýchľujú inferenciu transformátorov (spekulatívne dekódovanie, medúza)?