Machine Learning / AI

Күн сайын 300 000 хабарламамен 10 000 Telegram арнасы үшін сақтау және іздеу жүйесін қалай жобалау керек, ол 2 секундтан аз кідіріспен жұмыс істейді?

Егер жұмысшы синхронды болса, оның batching-і бола ма?

Embedding-терді API endpoint-те тікелей синхронды түрде қарастыруға бола ма? Егер FastAPI-дің endpoint-інде үлкен құжат ағыны үшін embedding-терді өңдесеңіз, не болады?

Telegram арналарында автордың стилінде автоматты мазмұн генерациялау жүйесін қалай жобалау керек?

LoRA-ның дәлдігін қалай тексердіңіз?

Сіз нейрондық желілерді сапаны бағалау метрикасы ретінде қолдандыңыз ба?

RAG жүйелерімен жұмыс тәжірибеңіз туралы айтып беріңіз және соңғы жобаңызда не жасадыңыз?

Қашан LoRA-ны таңдауға және қашан ұқсас жазбалар бойынша іздеуге? Әр әдіс үшін қанша деректер қажет?

LoRA үшін қандай ранг қойдыңыз және ол неге байланысты?

Сіз бұл барлық нәрсені өзіңіз жасадыңыз ба (RAG, LoRA, нейрон желілерімен жұмыс) немесе біреуге көмектестіңіз бе?

LoRA-ны қай қабаттарға енгіздіңіз және q_proj дегеніміз не?

Сіз нейрон желілерін өз серверлеріңізде немесе бұлтта орналастырдыңыз ба?

Жүйенің сапасын бағалау үшін қандай көрсеткіштерді қолдандыңыз және қалай 40% жақсартуға қол жеткіздіңіз?

Неліктен LoRA аз параметрлер саны болғанда да артық оқуы мүмкін? Ранг таңдау артық оқуға әсер етеді ме?

Бұл архитектурада векторлық дерекқор не үшін қажет?