Kuidas on üles ehitatud RAG arhitektuur?

RAG (Retrieval-Augmented Generation) arhitektuur ühendab kaks põhikomponenti: otsingusüsteemi (retrieval) ja generatiivse mudeli (generation).

1. Otsingukomponent vastutab olulise teabe väljavõtmise eest suurest andmekorpusest või teadmistebaasist. Tavaliselt on see vektorialane otsing dokumentide embedingute põhjal, mis võimaldab kiiresti leida kõige sobivamad teksti fragmendid.

2. Generatiivne mudel (näiteks transformer) võtab vastu algse päringu ja leitud dokumendid ning genereerib vastuse, võttes arvesse retrieved andmete konteksti.

Sel viisil parandab RAG vastuste kvaliteeti, ühendades teadmistebaasis otsingu ja teksti genereerimise eelised, mis on eriti kasulik suurte andmemahtude ja piiratud mälu korral.

Lihtsustatud skeemi näide:

Kasutaja päring -> Asjakohaste dokumentide otsing -> Generatiivne mudel (sisend: päring + dokumendid) -> Vastus