Machine Learning / AI

Kā izstrādāt glabāšanas un meklēšanas sistēmu 10 000 Telegram kanāliem ar 300 000 ziņojumiem dienā un ar aizkavi mazāk nekā 2 sekundes?

Ja darbinieks ir sinhronais, vai tas būs batching?

Vai embeddings var tiešām sinhroni veidā tieši API galapunktā? Kas notiks, ja aprēķināsim embeddings lielam dokumentu plūsmai FastAPI galapunktā?

Kā izstrādāt sistēmu automātiskai satura ģenerēšanai Telegram kanāliem kanāla autora stilā?

Kā jūs validējāt LoRA fine-tuning?

Vai jūs kādreiz esat izmantojis neironu tīklu kā kvalitātes novērtēšanas metriku?

Vai jūs varētu pastāstīt par savu pieredzi ar RAG sistēmām un ko jūs darījāt pēdējā projektā?

Kad izvēlēties LoRA un kad retrieval pēc līdzīgiem ierakstiem? Cik daudz datu ir nepieciešami katram pieejai?

Kādu rangu jūs iestatījāt LoRA un no kā tas ir atkarīgs?

Vai tu pats to visu esi darījis (RAG, LoRA, darbs ar neironu tīkliem) vai kādam palīdzēji?

Kuros slāņos jūs ievietojāt LoRA un kas ir q_proj?

Vai tu esi izvietojis neironu tīklus savos serveros vai mākoņā?

Kuras metrikas jūs izmantojāt, lai novērtētu sistēmas kvalitāti, un kā sasniedzāt 40% uzlabojumu?

Kāpēc LoRA var pārāk apmācīt pat ar mazāku parametru skaitu? Vai ranga izvēle ietekmē pārapmācību?

Kāpēc šajā arhitektūrā ir nepieciešama vektoru datu bāze?