Machine Learning / AI

Ako navrhnúť systém ukladania a vyhľadávania pre 10 000 Telegram kanálov s 300 000 príspevkami denne s latenciou menej ako 2 sekundy?

Ak je worker synchronný, bude mať batching?

Je možné považovať embeddings za synchronné priamo na API endpoint? Čo sa stane, ak vypočítame embeddings pre veľký tok dokumentov v endpoint FastAPI?

Ako navrhnúť systém na automatickú generáciu obsahu pre Telegram kanály v štýle autora kanála?

Kedy zvoliť LoRA a kedy retrieval podľa podobných príspevkov? Koľko dát je potrebných pre každý prístup?

Ako ste overili ladenie LoRA?

Použili ste niekedy neurónovú sieť ako metriku hodnotenia kvality?

Môžete mi povedať o svojej skúsenosti s RAG systémami a čo ste robili v poslednom projekte?

Aké hodnotenie ste nastavili pre LoRA a od čoho závisí?

Robil si to všetko sám (RAG, LoRA, práca s neurónovými sieťami) alebo si niekomu pomáhal?

Aké metriky ste použili na hodnotenie kvality systému a ako ste dosiahli zlepšenie o 40 %?

V ktorých vrstvách si vložil LoRA a čo je q_proj?

Nasadil si neurónové siete na svojich serveroch alebo v cloude?

Prečo môže LoRA preučiť aj pri malom počte parametrov? Ovplyvňuje voľba rangu preučenie?

Prečo je v tejto architektúre potrebná vektorová databáza?