Sobes.tech

Python

Ar gali įvykti lenktynių sąlyga Python asinchroniniame kode?

213

Kiek dokumentų buvo surinkta paieškos metu? Ar buvo re-ranking?

189

Kaip stebėjote paslaugos darbą? Ką žiūrėjote Grafanoje?

157

Ką dar galima optimizuoti predict metode? (kiekvieną kartą DataFrame kūrimas)

146

Kodėl geriau naudoti POST vietoj GET šiai galinei taškui?

141

Parašykite „FastAPI“ žiniatinklio paslaugą, kuri priima POST užklausą su duomenimis (uždarbis, amžius, kredito suma) ir grąžina ML modelio prognozę (kredito patvirtinimas)

140

Kaip optimizuoti paslaugą, kad sinchroninė CPU užduotis (prognozės modelis) nepakeistų FastAPI event loop'o?

139

Papaskink man apie visą RAG sistemos pipeline'ą: kokie dokumentai buvo naudojami, kaip jie buvo įkelti ir apdoroti?

136

Kas yra Singleton ir kaip jį taikyti modelio įkėlimui? Kokie yra Singleton trūkumai?

135

Kiek laiko užtruko visas RAG pipeline nuo užklausos iki atsakymo?

134

Koks yra problema ir kaip ją išspręsti, jei asinchroniniame serveryje naudojamas vietinis ML modelis (pvz., reranker), kuris yra kviečiamas sinchroniškai?

121

Kaip dokumentai buvo įkeliami į vektorinę duomenų bazę? Kaip vyko chunking?

118

Kaip buvo gauti embeddingai? Per kokį modelį ir kaip jis buvo paleistas?

111

Kaip veikia daugiagyslė Python su GIL? Kuo skiriasi srautai nuo procesų?

106