Sobes.tech

Python

Poate apărea o condiție de cursă în codul asincron Python?

209

Câte documente au fost recuperate în timpul căutării? A fost re-ranking?

187

Cum a fost evaluată calitatea muncii sistemului RAG?

168

Cum ai monitorizat funcționarea serviciului? Ce ai urmărit în Grafana?

156

Ce altceva se poate optimiza în metoda predict? (crearea DataFrame-ului de fiecare dată)

146

Cum se optimizează serviciul pentru ca o sarcină CPU sincrona (model de predicție) să nu blocheze event loop-ul FastAPI?

139

De ce este mai bine să folosiți POST în loc de GET pentru acest endpoint?

139

Scrieți un serviciu web pe FastAPI care acceptă o solicitare POST cu date (venit, vârstă, suma creditului) și returnează predicția modelului ML (aprobare credit)

139

Ce este Singleton și cum îl aplici pentru încărcarea unui model? Care sunt dezavantajele Singleton-ului?

135

Povesti-mi despre întregul pipeline al sistemului RAG: ce documente au fost folosite, cum au fost încărcate și procesate?

133

Cât timp a durat întregul pipeline RAG de la solicitare până la răspuns?

129

Cum au fost încărcate documentele în baza de date vectorială? Cum a avut loc chunking-ul?

118

Care este problema care apare și cum se rezolvă dacă într-un serviciu asincron se folosește un model ML local (de exemplu, un reranker) care este apelat sincron?

118

Cum au fost obținute embedding-urile? Prin ce model și cum a fost lansat?

110

Cum funcționează multitasking-ul în Python având în vedere GIL? În ce se deosebesc thread-urile de procese?

106