Kako oceniti kvalitet retrivera? Odakle uzeti kolekciju dokumenata za ocenu metrika?
Machine Learning / AI
Šta je vLLM i zašto se koristi?
Imate mali skup podataka sa filmskim recenzijama na ruskom jeziku i njihovom binarnom oznakom sentimenta (oznake: 0 — negativan, 1 — pozitivan). Vaš zadatak je da implementirate kompletan pipeline za obuku jednostavnog modela za klasifikaciju teksta bez korišćenja gotovih enkodera poput BERT, u roku od 15 minuta, i da prikažete tačnost (accuracy) na ovim podacima. reviews = [ "Ovaj film je jednostavno neverovatan!", "Stravična gluma i dosadan zaplet.", "Svi trenuci su mi bili dragi!", "Najgori film koji sam ikada video.", "Odličan rad režije i divna priča.", "Neizdrživo dosadno i predvidljivo." ] labels = [1, 0, 1, 0, 1, 0]
Čime se razlikuju Tensor Parallel Size i Data Parallel Size u vLLM?
Šta je RAG i koji osnovni problem rešava?
Koji parametar u modelu embedovanja određuje maksimalan broj tokena na ulazu? Šta će se desiti ako unesete više tokena od limita?
Kako uticaj povećanja batch veličine za 4 puta na stopu učenja i zašto? Kako funkcioniše unazad propagacija greške?
Ispričaj mi o sebi i svom iskustvu
Šta je model embedovanja i šta je token?
Šta je kvantizacija modela i šta se dešava sa težinama prilikom njene primene u vLLM?
Kako se podaci izvlače iz vektorske baze na osnovu korisničkog zahteva?
Šta će se desiti ako u LLM unesete kontekst od 120.000 tokena uz limit od 60.000?
Šta je LangGraph, čemu služi, kako se implementiraju grane i uslovni prelazi? Čime se alati razlikuju od čvorova?
Kako je organizovano pretraživanje informacija u vektorskoj bazi? Zašto ste koristili Qdrant?