Πώς είναι δομημένη η αρχιτεκτονική RAG;

Η αρχιτεκτονική RAG (Retrieval-Augmented Generation) συνδυάζει δύο βασικά στοιχεία: ένα σύστημα αναζήτησης (retrieval) και ένα γενετικό μοντέλο (generation).

1. Το συστατικό αναζήτησης είναι υπεύθυνο για την εξαγωγή σχετικών πληροφοριών από ένα μεγάλο σώμα δεδομένων ή μια βάση γνώσεων. Συνήθως, πρόκειται για μια διανυσματική αναζήτηση βασισμένη σε ενσωματώσεις εγγράφων, που επιτρέπει την ταχεία εύρεση των πιο κατάλληλων τμημάτων κειμένου.

2. Το γενετικό μοντέλο (π.χ., ένας μετασχηματιστής) λαμβάνει το αρχικό ερώτημα και τα ευρεθέντα έγγραφα, και στη συνέχεια παράγει μια απάντηση λαμβάνοντας υπόψη το πλαίσιο των retrieved δεδομένων.

Έτσι, η RAG βελτιώνει την ποιότητα των απαντήσεων συνδυάζοντας τα πλεονεκτήματα της αναζήτησης στη βάση γνώσεων και της γενετικής κειμένου, κάτι που είναι ιδιαίτερα χρήσιμο όταν εργάζεστε με μεγάλους όγκους πληροφοριών και περιορισμένη μνήμη του μοντέλου.

Παραδείγματος χάριν, ένα απλοποιημένο σχήμα:

Ερώτηση χρήστη -> Αναζήτηση σχετικών εγγράφων -> Γενετικό μοντέλο (εισροή: ερώτηση + έγγραφα) -> Απάντηση