Machine Learning / AI

Ինչպե՞ս նախագծել պահեստավորման և որոնման համակարգ 10,000 Telegram ալիքների համար, որոնցում օրական 300,000 գրառում է և լատենցիան պակաս է 2 վայրկյանից։

Եթե worker-ը սինխրոն է, արդյոք կունենա batching?

Կարող է՞ք համատեղել embeddings-ները սինխրոնապես անմիջապես API-ի վերջնակետում: Ի՞նչ կլինի, եթե հաշվարկենք embeddings-ները մեծ քանակությամբ փաստաթղթերի համար FastAPI վերջնակետում։

Ինչպե՞ս նախագծել ավտոմատ բովանդակության սերունդի համակարգ Telegram-ալի համար՝ ալիքի հեղինակին ոճով։

Երբ ընտրել LoRA-ն, իսկ երբ վերականգնում նմանատիպ գրառումների միջոցով: Ի՞նչ տվյալներ են անհրաժեշտ յուրաքանչյուր մոտեցման համար:

Ինչպե՞ս եք վավերացրել LoRA- ի մանրամասնեցումը։

Դու երբևէ օգտագործե՞լ ես նեյրոնային ցանց որպես որակի գնահատման չափանիշ։

Կարող եք պատմել ձեր փորձառության մասին RAG համակարգերի հետ և ինչ եք արել վերջին նախագծում:

Ի՞նչ ռեյթինգ եք սահմանել LoRA-ի համար և ինչից է դա կախված?

Դու ինքներդ արեցիր դա՞ (RAG, LoRA, աշխատել նեյրոնային ցանցերով) թե՞ օգնել էիր ինչ-որ մեկին։

Ի՞նչ մեթոդներ եք օգտագործել համակարգի որակը գնահատելու համար և ինչպես հասաք 40%-անոց բարելավում:

Որ շերտերում ես տեղադրել LoRA-ն և ինչ է q_proj-ը?

Դու արդյոք տեղադրել ես նեյրոնային ցանցեր քո սերվերների կամ ամպի վրա?

Ինչու՞ LoRA-ն կարող է ավելցուկային ուսուցում ունենալ նույնիսկ փոքր թվով պարամետրերով: Արդյո՞ք ռանգի ընտրությունը ազդում է ավելցուկային ուսուցման վրա։

Ինչու է այս ճարտարապետությունում վեկտորային տվյալների բազան անհրաժեշտ?