Kas saaksid selgitada vahe cross-encoder ja bi-encoder vahel?
Machine Learning / AI
Kuidas määrata, kas mudel töötab hästi? Milliseid mõõdikuid kasutati?
Kas on võimalik kontrollida, et genereeritud tekst ei sisalda faktilisi vigu võrreldes algtekstiga?
Kuidas PDF-dokumentidest andmeid RAG-süsteemi jaoks välja võeti?
Kuidas valiti RAG-süsteemi jaoks chunking strateegia?
Racontes-moi la quantification des modèles : qu'est-ce que c'est, à quoi ça sert, quels types existent?
Kuidas testida FastAPI-s rakendatud teenust?
Racontes-moi des métriques de performance du service ML : latence, RPS, comment cela a été organisé dans ton projet?
Räägi mulle vektorpõhiste andmebaaside kohta, millised on, kuidas nad erinevad, miks valisite pgvector?
Räägi mulle LLM-i generatsiooni parameetritest: temperatuur, top-k, top-p ja teised.
Rääkige mulle ühest projektist kõige keerulisemast ülesandest või raskusest.
Kuidas on seotud Recall ja Precision, kas võimaldab ühe suurendada ilma teist vähendamata? Toote näiteid.
Kuidas olid andmed korraldatud dialoogide kokkuvõtteks ja kuidas toimus koolitus?
Milline kvantimisatsiooni meetod (int8 või float) kahjustab mudeli kvaliteeti vähem?
Kuidas hinnata kokkuvõtte kvaliteeti?
Kuidas sa läheneksid ülesandele kokkuvõtte tegemiseks mitme inimese dialoogist konverentsil (näiteks 10 arendajat Slackis)?
Millist mudelit ja lähenemist valida konverentsi heli töötlemiseks (speech-to-text, diarization)?
Räägi mulle LoRA-st: mis see on, milleks see on vajalik?
Kuidas töötada privaatsete andmetega süsteemi kohaliku juurutamise ajal?
Miks valisite hübriidotsingut BM25 + embeddings asemel ainult kosinuse kauguse?