Sobes.tech

Machine Learning / AI

Hogyan értékeljük a retriever minőségét? Honnan szerezhetünk dokumentumgyűjteményt a metrikák értékeléséhez?

370

Mi a különbség a Tensor Parallel Size és a Data Parallel Size között a vLLM-ben?

185

Van egy kis adathalmazod orosz nyelvű filmkritikákkal és azok bináris hangulatcímkékkel (címkék: 0 — negatív, 1 — pozitív). A feladatod, hogy 15 percen belül teljes pipeline-t valósíts meg egy egyszerű szöveg osztályozó modell tanítására anélkül, hogy kész encoder-eket, például BERT-et használnál, és mutasd meg az adatokon elért pontosságot (accuracy). reviews = [ "Ez a film egyszerűen csodálatos!", "Szörnyű színészi játék és unalmas történet.", "Minden pillanatot imádtam!", "A legrosszabb film, amit láttam.", "Kiváló rendezői munka és csodálatos történet.", "Elviselhetetlenül unalmas és kiszámítható." ] labels = [1, 0, 1, 0, 1, 0]

183

Melyik paraméter határozza meg a bemeneti tokenek maximális számát az embedding modellben? Mi történik, ha több token kerül be, mint a limit?

168

Hogyan befolyásolja a batch méretének négyszeres növelése a tanulási rátát és miért? Hogyan működik a visszaterjesztés?

165

Mi a modell kvantálása, és mi történik a súlyokkal, amikor alkalmazzák a vLLM-ben?

153

Mi történik, ha egy LLM-be 120 000 tokenes kontextust adunk meg, miközben a limit 60 000?

151

Hogyan szervezték az információkeresést a vektoralapú adatbázisban? Miért használták a Qdrant-ot?

141

Mi az a LangGraph, mire használják, hogyan valósulnak meg az elágazások és a feltételes átmenetek? Miben különböznek az eszközök a csomópontoktól?

140