Kā ir izstrādāta RAG arhitektūra?

RAG (Retrieval-Augmented Generation) arhitektūra apvieno divas galvenes komponentes: meklēšanas sistēmu (retrieval) un ģeneratīvo modeli (generation).

1. Meklēšanas komponenta ir atbildīga par relevanto informāciju izvilkšanu no lielas datu kopas vai zināšanu bāzes. Parasti tas ir vektoru meklējums, balstoties uz dokumentu iekļāvumiem, kas ļauj ātri atrast visatbilstošākos teksta fragmentus.

2. Ģeneratīvais modelis (piemēram, transformators) saņem sākotnējo pieprasījumu un atrastos dokumentus, pēc tam ģenerē atbildi, ņemot vērā retrieved datu kontekstu.

Tādējādi RAG uzlabo atbilžu kvalitāti, apvienojot zināšanu bāzes meklēšanas un teksta ģenerēšanas priekšrocības, kas ir īpaši noderīgi, strādājot ar lielu informācijas apjomu un ierobežotu modeļa atmiņu.

Vienkāršota shēmas piemērs:

Lietotāja pieprasījums -> Relevanto dokumentu meklēšana -> Ģeneratīvais modelis (ievade: pieprasījums + dokumenti) -> Atbilde