Machine Learning / AI

Hogyan lehet megállapítani, hogy az embedding modell jól működik-e? Milyen metrikákat használtak?

Meg tudnád magyarázni a különbséget a cross-encoder és a bi-encoder között?

Van-e mód arra, hogy ellenőrizzük, hogy a generált szöveg nem tartalmaz-e tényleges hibákat az eredetihez képest?

Mesélj a modellek kvantálásáról: mi ez, miért szükséges, milyen típusai vannak?

Hogyan nyerték ki az adatokat PDF-dokumentumokból a RAG rendszerhez?

Hogyan választották ki a chunking stratégiát a RAG rendszerhez?

Hogyan teszteljük a FastAPI-nál megvalósított szolgáltatást?

Mesélj a ML-szolgáltatás teljesítménymérőszámairól: késleltetés, RPS, hogyan szervezted ezt a projektedben?

Mesélj a vektoralapú adatbázisokról, melyek léteznek, miben különböznek, miért választottátok a pgvector-t?

Mesélj az LLM generálási paramétereiről: hőmérséklet, top-k, top-p és mások.

Hogyan viszonyulnak egymáshoz a Recall és Precision, növelhető-e az egyik anélkül, hogy a másikat csökkentenénk? Adj példákat feladatokra.

Mesélj a legnehezebb feladatról vagy nehézségről egyik projektben.

Hogyan értékeljük az összefoglaló minőségét?

Hogyan szervezték az adatokat a párbeszédek összefoglalására, és hogyan zajlott a tanítás?

Melyik kvantálási módszer (int8 vagy float) rontja kevésbé a modell minőségét?

Hogyan közelítenéd meg a több ember közötti beszélgetés összefoglalásának feladatát egy konferencián (például 10 fejlesztő Slacken)?

Milyen modellt és megközelítést válasszunk egy konferencia hangjának feldolgozásához (speech-to-text, diarizáció)?

Mesélj a LoRA-ról: mi ez, mire való?

Hogyan kezeljük a privát adatokat a rendszer helyi telepítése során?

Miért választották a BM25 + embeddings hibrid keresést a csak koszinusz távolság helyett?