Hogyan értékeljük a retriever minőségét? Honnan szerezhetünk dokumentumgyűjteményt a metrikák értékeléséhez?
Machine Learning / AI
Mi az a vLLM és mire használják?
Mi a különbség a Tensor Parallel Size és a Data Parallel Size között a vLLM-ben?
Van egy kis adathalmazod orosz nyelvű filmkritikákkal és azok bináris hangulatcímkékkel (címkék: 0 — negatív, 1 — pozitív). A feladatod, hogy 15 percen belül teljes pipeline-t valósíts meg egy egyszerű szöveg osztályozó modell tanítására anélkül, hogy kész encoder-eket, például BERT-et használnál, és mutasd meg az adatokon elért pontosságot (accuracy). reviews = [ "Ez a film egyszerűen csodálatos!", "Szörnyű színészi játék és unalmas történet.", "Minden pillanatot imádtam!", "A legrosszabb film, amit láttam.", "Kiváló rendezői munka és csodálatos történet.", "Elviselhetetlenül unalmas és kiszámítható." ] labels = [1, 0, 1, 0, 1, 0]
Mi az a RAG és milyen alapvető problémát old meg?
Melyik paraméter határozza meg a bemeneti tokenek maximális számát az embedding modellben? Mi történik, ha több token kerül be, mint a limit?
Hogyan befolyásolja a batch méretének négyszeres növelése a tanulási rátát és miért? Hogyan működik a visszaterjesztés?
Mesélj magadról és a tapasztalataidról
Mi az az embedding modell és mi az a token?
Hogyan kerülnek ki a felhasználói kérés alapján az adatok a vektorból?
Mi a modell kvantálása, és mi történik a súlyokkal, amikor alkalmazzák a vLLM-ben?
Mi történik, ha egy LLM-be 120 000 tokenes kontextust adunk meg, miközben a limit 60 000?
Hogyan szervezték az információkeresést a vektoralapú adatbázisban? Miért használták a Qdrant-ot?
Mi az a LangGraph, mire használják, hogyan valósulnak meg az elágazások és a feltételes átmenetek? Miben különböznek az eszközök a csomópontoktól?