Machine Learning / AI

Hogyan tervezzünk tárolási és keresési rendszert 10 000 Telegram csatornához, napi 300 000 poszttal, kevesebb mint 2 másodperces késleltetéssel?

Ha a worker szinkron, lesz batching?

Szinkron módon lehet-e közvetlenül az API végponton belül számítani az embeddings-eket? Mi történik, ha nagy dokumentumfolyamhoz számítunk embeddings-et a FastAPI végponton?

Hogyan tervezzünk egy rendszert az automatikus tartalomgeneráláshoz Telegram csatornák számára a csatorna szerzőjének stílusában?

Mikor válasszuk a LoRA-t, és mikor a hasonló posztok alapján történő retrievalt? Milyen adat szükséges mindkét megközelítéshez?

Hogyan validáltad a LoRA finomhangolását?

Használtál már neurális hálót minőségértékelési mérőszámként?

El tudná mondani a RAG rendszerekkel kapcsolatos tapasztalatait és hogy mit csinált az utolsó projektjében?

Milyen rangot állítottál be a LoRA számára, és attól függ, hogy mitől függ?

Ezt mind magad csináltad (RAG, LoRA, neurális hálókkal való munka) vagy segítettél valakinek?

Milyen mérőszámokat használt a rendszer minőségének értékeléséhez, és hogyan ért el 40%-os javulást?

Mely rétegekbe helyezted be a LoRA-t és mi az a q_proj?

Fejlesztettél már neurális hálózatokat saját szervereken vagy a felhőben?

Miért hajlamos a LoRA túlilleszkedésre még kevés paraméter esetén is? Befolyásolja-e a rang kiválasztása a túlilleszkedést?

Miért van szükség vektorbázisra ebben az architektúrában?