Jak jest zbudowana architektura RAG?
sobes.tech AI
Odpowiedź od AI
Architektura RAG (Retrieval-Augmented Generation) łączy dwa kluczowe komponenty: system wyszukiwania (retrieval) i model generatywny (generation).
-
Komponent wyszukiwania odpowiada za wydobycie istotnych informacji z dużego korpusu danych lub bazy wiedzy. Zazwyczaj jest to wyszukiwanie wektorowe na podstawie osadzeń dokumentów, które pozwala szybko znaleźć najbardziej odpowiednie fragmenty tekstu.
-
Model generatywny (np. transformer) otrzymuje początkowe zapytanie i znalezione dokumenty, a następnie generuje odpowiedź, uwzględniając kontekst danych retrieved.
W ten sposób RAG pozwala poprawić jakość odpowiedzi, łącząc zalety wyszukiwania w bazie wiedzy i generowania tekstu, co jest szczególnie przydatne przy pracy z dużymi ilościami informacji i ograniczoną pamięcią modelu.
Przykład uproszczonego schematu:
Zapytanie użytkownika -> Wyszukiwanie odpowiednich dokumentów -> Model generatywny (wejście: zapytanie + dokumenty) -> Odpowiedź