Hoe is de RAG-architectuur opgebouwd?

De RAG-architectuur (Retrieval-Augmented Generation) combineert twee kerncomponenten: een zoekingssysteem (retrieval) en een generatiemodel (generation).

1. Zoekcomponent is verantwoordelijk voor het extraheren van relevante informatie uit een grote dataset of kennisbasis. Dit gebeurt meestal via vectorzoekopdrachten op basis van documentembeddings, waarmee snel de meest geschikte tekstfragmenten kunnen worden gevonden.

2. Generatiemodel (bijvoorbeeld een transformer) ontvangt de initiële query en de gevonden documenten, en genereert vervolgens een antwoord dat rekening houdt met de context van de opgehaalde gegevens.

Op deze manier verbetert RAG de kwaliteit van antwoorden door de voordelen van zoeken in de kennisbasis en tekstgeneratie te combineren, wat vooral handig is bij werken met grote hoeveelheden informatie en beperkte geheugenruimte van het model.

Voorbeeld van een vereenvoudigd schema:

Gebruikersvraag -> Relevante documenten zoeken -> Generatiemodel (invoer: vraag + documenten) -> Antwoord