Machine Learning / AI

Эмбеддинг моделінің жақсы жұмыс істеп тұрғанын қалай анықтауға болады? Қандай метрикалар пайдаланылады?

Cross-encoder және bi-encoder туралы айтыңызшы, айырмашылығы неде?

Жасалған мәтіннің түпнұсқамен салыстырғанда фактілік қателерін қамтымайтынын қалай тексеруге болады?

Модельдердің квантталуы туралы айтыңыз: бұл не, не үшін қажет және қандай түрлері бар.

PDF құжаттарынан деректерді RAG жүйесі үшін қалай шығардыңыз?

RAG жүйесі үшін чанктау стратегиясы қалай таңдалды?

FastAPI көмегімен жүзеге асырылған қызметті қалай тестілеуге болады?

МЛ қызметінің өнімділік көрсеткіштері туралы айтыңыз: кідіріс, RPS, ол сіздің жобаңызда қалай ұйымдастырылды?

Векторлық дерекқорлар туралы айта аласыз ба, олар қандай, айырмашылықтары қандай және неге pgvector таңдадыңыз?

LLM генерациялау параметрлері туралы айтыңыз: температура, top-k, top-p және басқа да параметрлер.

Қалпына келтіру және дәлдік қалай байланысты, бірін жақсартуға бола ма, екіншісін төмендетпей ме? Мәселелердің мысалдарын келтіріңіз.

Жобаларыңыздың бірінде ең күрделі тапсырма немесе қиындық туралы айтыңыз.

Қысқартудың сапасын қалай бағалауға болады?

Диалогтарды қысқартуға арналған деректер қалай ұйымдастырылды және оқыту қалай өтті?

Қандай кванттау әдісі (int8 немесе float) модельдің сапасын аз бұзады?

Көп адам қатысқан конференция диалогын қысқарту тапсырмасына қалай қарайсыз (мысалы, Slack-те 10 әзірлеуші)?

Конференциядан аудио өңдеу үшін қандай модель мен әдісті таңдау керек (speech-to-text, диаризация)?

LoRA туралы айтыңыз: ол не, және ол не үшін қажет?

Жүйені жергілікті орналастыру кезінде жеке деректермен қалай жұмыс істеу керек?

Неге тек косинус ұқсастығы орнына BM25 + embeddings гибридті іздеуді таңдадыңыз?