Kaip veikia žymėjimas? Kodėl naudojami subword žymenys, o ne visos žodžiai?
Machine Learning / AI
Papaskinkite apie BGE-M3: tris reprezentacijas — tankią, retą, daugi-vektorių.
Kas yra Recall ir Precision? Užduotis: 50 vaisių, 30 obuolių ir 20 kriaušių, robotas teisingai rado 20 obuolių, bet 15 kriaušių atpažino kaip obuolius. Apskaičiuokite metrikas.
Ar pažįstate LoRA ir fine-tuning metodus?
Kaip buvo parinkti koeficientai hibridiniam paieškai?
Kodėl jums reikėjo 12 000 klausimo-atsakymo porų, jei buvo tik 15 šablonų?
Kodėl atpažinote dokumentus kaip paveikslėlius, o ne sukūrėte analizatorių?
Kaip sudarėte testinių duomenų rinkinį: iš tų pačių 12 tūkstančių porų ar iš naujų duomenų?
Papaskinkite apie klasterizaciją: kokią užduotį sprendėte, kokią metodą naudojote, kaip matavote kokybę?
Kaip veikia transformatorius? Papasakok apie BERT ir GPT.
Kaip įvertinote RAG sistemos kokybę? Kokias metrikas naudojote?
Kas yra tankus vektorius (dense embedding)? Kaip jis gaunamas? Koks jo dydis?
Kokius modelius naudota kiekviename etape? Entitetų išgavimui, vektorizacijai, generavimui?
Kas yra cross-encoder ir kur jį naudojote?
Kodėl reikia sumažinti žodyno dydį? Kodėl didelis žodynas yra blogai? Kurioje funkcijoje vyksta apkrova?
Ką siuntėte galutiniam vartotojui jūsų sistemoje?
Kas yra sparse-vektorius? kuo jis skiriasi nuo dense-vektoriaus?
Kuo skiriasi GET ir POST užklausos?
Vieno užklausos atveju ar pakanka vieno iš 12 tūkstančio atsakymų ar daug?
Paaiškinkite paprastomis žodžiais, kaip veikia jūsų sistema vienam vartotojui, be asinchroniškumo.