Ako zistiť, že model halucinuje a ne používa kontext?

Ak zistíte, že model halucinuje a nevyužíva kontext, môžete:

• Skontrolovať odpovede na otázky, ktoré vyžadujú konkrétne fakty z poskytnutého kontextu. Ak model odpovedá faktami, ktoré v kontexte chýbajú, je to znak halucinácie.
• Použiť metódy overovania pravdivosti, napríklad porovnaním odpovedí s databázou znalostí alebo zdrojmi.
• V systémoch RAG (Retrieval-Augmented Generation) môžete skontrolovať, či model odkazuje na relevantné dokumenty z kontextu.
• Analyzovať logy a vnútorné mechanizmy pozornosti modelu, aby ste pochopili, ktoré časti kontextu používa.

Príklad: ak model odpovedá na otázku o dátume udalosti, ktorá nie je v kontexte, a uvádza konkrétny dátum, môže to byť halucinácia.