RAG memarlığı necə qurulub?

RAG (Retrieval-Augmented Generation) memarisi iki əsas komponenti birləşdirir: axtarış sistemi (retrieval) və nəsil modeli (generation).

1. Axtarış komponenti böyük məlumat korpusu və ya bilik bazasından müvafiq məlumatların çıxarılmasından məsuldur. Adətən, bu, sənədlərin gömme əsaslı vektor axtarışıdır və ən uyğun mətn parçalarını sürətlə tapmağa imkan verir.

2. Nəsil modeli (məsələn, transformator) ilkin sorğunu və tapılmış sənədləri qəbul edir və sonra retrieved məlumatların kontekstini nəzərə alaraq cavab yaradır.

Beləliklə, RAG cavabların keyfiyyətini artırmaq üçün bilik bazasında axtarış və mətn nəsil etmənin üstünlüklərini birləşdirir, bu isə böyük həcmdə məlumat və modelin məhdud yaddaşı ilə işləyərkən çox faydalıdır.

Sadəlaşdırılmış sxema nümunəsi:

İstifadəçi sorğusu -> Əhəmiyyətli sənədlərin axtarışı -> Nəsil modeli (giriş: sorğu + sənədlər) -> Cavab