Machine Learning / AI

Kaip sukurti saugojimo ir paieškos sistemą 10 000 Telegram kanalų su 300 000 įrašų per dieną ir mažesne nei 2 sekundžių latencija?

Jei worker yra sinchroninis, ar turės batching?

Ar galima sinchroniškai tiesiogiai API galiniame taške laikyti embeddings? Kas nutiks, jei apskaičiuosime embeddings dideliam dokumentų srautui FastAPI galiniame taške?

Kaip suprojektuoti sistemą automatiškai generuoti turinį Telegram kanalams autoriaus stiliumi?

Kaip patvirtinote LoRA tobulinimą?

Kada pasirinkti LoRA ir kada paiešką pagal panašius įrašus? Kiek duomenų reikia kiekvienam požiūriui?

Ar galite papasakoti apie savo patirtį dirbant su RAG sistemomis ir ką darėte paskutiniame projekte?

Ar kada nors naudojote neuroninį tinklą kaip kokybės vertinimo matą?

Ar pats darėte viską tai (RAG, LoRA, darbą su neuronų tinklais) ar padėjote kam nors?

Kokį rangą nustatėte LoRA ir nuo ko jis priklauso?

Kuriuose sluoksniuose įdėjote LoRA ir kas yra q_proj?

Kokias metrikas naudojote sistemos kokybei įvertinti ir kaip pasiekėte 40% pagerėjimą?

Ar tu diegėi neuroninius tinklus savo serveriuose ar debesyje?

Kodėl šiame architektūroje reikalinga vektorinė duomenų bazė?

Kodėl LoRA gali per daug išmokti net ir su mažai parametrų? Ar rango pasirinkimas veikia per mokymąsi?