Sobes.tech

Може ли да възникне състезателна ситуация в асинхронния код на Python?

204

Колко документа бяха извлечени при търсенето? Имаше ли re-ranking?

186

Как работеше семантичният кеш в Redis?

164

Как беше оценено качеството на работата на RAG системата?

163

Как наблюдавахте работата на услугата? Какво гледахте в Grafana?

155

Какво още може да се оптимизира в метода predict? (създаване на DataFrame всеки път)

143

Защо е по-добре да използвате POST вместо GET за този крайна точка?

139

Напишете уеб услуга на FastAPI, която приема POST заявка с данни (доход, възраст, размер на кредита) и връща предсказание на ML модела (одобрение на кредита)

138

Как да оптимизираме услугата, така че синхронната CPU задача (модел за прогнозиране) да не блокира event loop-а на FastAPI?

137

Разкажи ми цялата верига на RAG системата: кои документи са използвани, как са били заредени и обработени?

133

Какво е Singleton и как да го приложим за зареждане на модел? Какви са недостатъците на Singleton?

133

Колко време отне цялата RAG тръбна линия от заявката до отговора?

125

Как бяха заредени документите във векторната база данни? Как протече чанкингът?

116

Какъв проблем възниква и как да го решим, ако в асинхронна услуга се използва локален ML модел (например reranker), който се извиква синхронно?

115

Как бяха получени ембедингите? Чрез коя модел и как беше стартирана?

109

Как работи многопоточността в Python с оглед на GIL? Как се различават нишките от процесите?

106