Machine Learning / AI

Jak navrhnout systém ukládání a vyhledávání pro 10 000 Telegram kanálů s 300 000 příspěvky denně a latencí méně než 2 sekundy?

Pokud je worker synchronní, bude mít batching?

Lze embeddings považovat za synchronní přímo na API endpointu? Co se stane, pokud spočítáme embeddings pro velký tok dokumentů na endpointu FastAPI?

Jak navrhnout systém pro automatickou generaci obsahu pro Telegram kanály ve stylu autora kanálu?

Jak jste validovali doladění LoRA?

Použili jste někdy neuronovou síť jako metriku hodnocení kvality?

Můžete mi říct o své zkušenosti s RAG systémy a co jste dělal ve svém posledním projektu?

Kdy zvolit LoRA a kdy retrieval podle podobných příspěvků? Kolik dat je potřeba pro každý přístup?

Dělal jsi to všechno sám (RAG, LoRA, práce s neuronovými sítěmi) nebo jsi někomu pomáhal?

Jaké hodnocení jsi nastavili pro LoRA a čemu to závisí?

V jakých vrstvách jsi vložil LoRA a co je q_proj?

Jaké metriky jste použili k hodnocení kvality systému a jak jste dosáhli zlepšení o 40 %?

Rozmístil jsi neuronové sítě na svých serverech nebo v cloudu?

Proč je v této architektuře potřeba vektorová databáze?

Proč může LoRA přeučit i při malém počtu parametrů? Ovlivňuje volba řádu přeučení?