Machine Learning / AI

Hoe bepaal je of het embeddingmodel goed presteert? Welke metrics werden gebruikt?

Kun je het verschil tussen cross-encoder en bi-encoder uitleggen?

Is er een manier om te controleren of de gegenereerde tekst geen feitelijke fouten bevat ten opzichte van het origineel?

Hoe werden gegevens uit PDF-documenten gehaald voor het RAG-systeem?

Vertel me over de kwantisatie van modellen: wat is het, waar is het voor, welke soorten zijn er?

Hoe werd de chunking-strategie gekozen voor het RAG-systeem?

Hoe test je een geïmplementeerde service op FastAPI?

Vertel me over de prestatietrends van de ML-dienst: latency, RPS, hoe was dit georganiseerd in jouw project?

Vertel me over vector databases, welke zijn er, hoe verschillen ze, waarom hebben jullie voor pgvector gekozen?

Vertel me over de parameters van LLM-generatie: temperatuur, top-k, top-p en andere.

Vertel over de moeilijkste taak of uitdaging in een van de projecten.

Hoe zijn de gegevens georganiseerd voor de samenvatting van dialogen en hoe verliep de training?

Hoe verhouden Recall en Precision zich tot elkaar, is het mogelijk om het ene te verhogen zonder het andere te verlagen? Geef voorbeelden van taken.

Welke kwantiseringsmethode (int8 of float) schaadt de modelkwaliteit minder?

Hoe evalueer je de kwaliteit van de samenvatting?

Hoe zou je de taak aanpakken om een dialoog van meerdere mensen uit een conferentie samen te vatten (bijvoorbeeld 10 ontwikkelaars op Slack)?

Welke model en aanpak kiezen voor het verwerken van audio uit een conferentie (spraak-naar-tekst, diarization)?

Vertel me over LoRA: wat is het, waar is het voor?

Hoe om te gaan met privégegevens bij lokale implementatie van het systeem?

Waarom hebben ze gekozen voor hybride zoekopdracht BM25 + embeddings in plaats van alleen de cosinusafstand?