RAG-də re-ranker nədir? Hansı modellər istifadə edir (cross-encoder, bge-reranker)?

RAG (Retrieval-Augmented Generation)-də, re-ranker məlumat bazasından çıxarılmış sənədləri və ya parçaları yenidən qiymətləndirən və sıralayan komponentdir; bu, cavabın yaradılması üçün ən uyğun olanları seçməyə kömək edir.

Re-ranker modellərinin əsas növləri:

• Cross-encoder: bu model, (sual, sənəd) cütlüyünü qəbul edir və onları eyni zamanda işləyərək, uyğunluğu hesablayır. Bu, daha dəqiq, lakin hesablama baxımından daha çox resurs tələb edən yanaşmadır, çünki hər sənəd sorğu ilə birlikdə işlənir.

• BGE-reranker (Bi-Encoder): modellər, sual və sənədləri ayrı-ayrılıqda vektorlar şəklində kodlayır və sonra kosinus oxşarlığını hesablayır. Daha sürətli, lakin cross-encoder qədər dəqiq olmaya bilər.

RAG-də, adətən, əvvəlcə sürətli bi-encoder istifadə olunur, sonra isə dəqiq sıralama üçün cross-encoder tətbiq edilir. Re-ranker sənədlərin seçimini yaxşılaşdırmağa kömək edir və bu, cavabın son istehsalını yaxşılaşdırır.