Ako je usporiadaná architektúra RAG?
sobes.tech AI
Odpoveď od AI
Architektúra RAG (Retrieval-Augmented Generation) kombinuje dva kľúčové komponenty: vyhľadávací systém (retrieval) a generatívny model (generation).
-
Vyhľadávacia zložka je zodpovedná za extrakciu relevantných informácií z veľkého korpusu dát alebo znalostnej databázy. Zvyčajne ide o vektorové vyhľadávanie založené na vloženiach dokumentov, ktoré umožňuje rýchle nájdenie najvhodnejších textových fragmentov.
-
Generatívny model (napríklad transformer) prijíma počiatočnú otázku a nájdené dokumenty, a následne generuje odpoveď s prihliadnutím na kontext získaných dát.
Týmto spôsobom RAG zlepšuje kvalitu odpovedí kombináciou výhod vyhľadávania v databáze znalostí a generovania textu, čo je obzvlášť užitočné pri práci s veľkým množstvom informácií a obmedzenou pamäťou modelu.
Príklad zjednodušeného schémy:
Používateľova otázka -> Vyhľadanie relevantných dokumentov -> Generatívny model (vstup: otázka + dokumenty) -> Odpoveď