Kaip yra sukurta RAG architektūra?

RAG (Retrieval-Augmented Generation) architektūra sujungia du pagrindinius komponentus: paieškos sistemą (retrieval) ir generatyvinį modelį (generation).

1. Paieškos komponentas atsakingas už aktualios informacijos išgavimą iš didelio duomenų korpuso ar žinių bazės. Paprastai tai yra vektorinė paieška pagal dokumentų įterpimus, leidžianti greitai rasti tinkamiausius teksto fragmentus.

2. Generatyvinis modelis (pvz., transformatorius) gauna pradinį užklausą ir rastus dokumentus, tada generuoja atsakymą, atsižvelgdamas į retrieved duomenų kontekstą.

Taip RAG leidžia pagerinti atsakymų kokybę, jungiant žinių bazės paieškos ir teksto generavimo privalumus, kas ypač naudinga dirbant su dideliais informacijos kiekiais ir ribota modelio atmintimi.

Pavyzdys supaprastintai schemai:

Vartotojo užklausa -> Reikšmingų dokumentų paieška -> Generatyvinis modelis (įvestis: užklausa + dokumentai) -> Atsakymas