RAG mimarisi nasıl yapılandırılmıştır?

RAG (Retrieval-Augmented Generation) mimarisi, iki temel bileşeni bir araya getirir: bir arama sistemi (retrieval) ve bir üretici model (generation).

1. Arama bileşeni, büyük bir veri kümesi veya bilgi tabanından ilgili bilgileri çıkarmaktan sorumludur. Genellikle, belgelerin gömme temelli vektör araması kullanılır ve bu, en uygun metin parçalarını hızlıca bulmayı sağlar.

2. Üretici model (örneğin, transformer), başlangıç sorgusunu ve bulunan belgeleri alır, ardından retrieved verilerden bağlamı dikkate alarak bir yanıt üretir.

Bu sayede, RAG, bilgi tabanında arama ve metin üretme avantajlarını birleştirerek yanıt kalitesini artırır; bu, özellikle büyük miktarda bilgiyle çalışırken ve modelin sınırlı belleği söz konusu olduğunda faydalıdır.

Basitleştirilmiş bir şema örneği:

Kullanıcı sorgusu -> İlgili belgelerin aranması -> Üretici model (girdi: sorgu + belgeler) -> Yanıt