Izstrādājiet RAG balstītu atbalsta čatbota sistēmu ar garantiju par halucināciju neesamību.

Lai izstrādātu Retrieval-Augmented Generation (RAG) balstītu čatbota atbalsta sistēmu ar garantiju, ka nav halucināciju (hallucination), ir jāievēro šādi:

1. RAG arhitektūra:

   • Izmantot atbilstošas informācijas meklēšanas moduli (retriever), kas izvelk dokumentus no zināšanu bāzes pēc lietotāja pieprasījuma.
   • Ražojošo modeli (generator), kas veido atbildi, stingri balstoties uz atrastajiem dokumentiem.

2. Garantija, ka nav halucināciju:

   • Ierobežot ražojošo modeli tikai ar izvilktajiem dokumentiem.
   • Izmantot stingras avotu pārbaudes metodes, piemēram, iekļaujot saites uz dokumentiem atbildē.
   • Ieviest atbildes validāciju ar papildu fakto pārbaudes moduli (fact-checker).

3. Sistēmas komponenti:

   • Zināšanu bāze: strukturēta un aktuāla, ar iespēju ātri meklēt.
   • Retriever: piemēram, vektoru meklēšana ar iekļautiem embedingiem.
   • Generator: finetuned LLM, kas apmācīts ģenerēt atbildes tikai no ievades datiem.
   • Fact-checker: pārbauda ar zināšanu bāzi vai ārējiem avotiem.
   • Dialoga loģika: sesiju pārvaldība, pieprasījumu apstrāde.

4. Aptuvenais plūsmas scenārijs:

   • Lietotājs uzdod jautājumu.
   • Retriever izvelk atbilstošus dokumentus.
   • Generator veido atbildi, izmantojot tikai šos dokumentus.
   • Fact-checker pārbauda atbildi.
   • Atbilde tiek nosūtīta lietotājam ar avotu norādēm.

5. Papildu:

   • Zināšanu bāzes atjaunināšana aktuāluma nodrošināšanai.
   • Uzraudzība un žurnālu reģistrēšana kļūdu analīzei.

Tādējādi, galvenais, lai novērstu halucinācijas, ir stingra ģenerācijas sasaistīšana ar pārbaudītiem datiem un atbilžu kvalitātes kontrole.