რა არის re-ranker RAG-ში? რა მოდელები იყენებენ (cross-encoder, bge-reranker)?

RAG (Retrieval-Augmented Generation) სისტემაში re-ranker არის კომპონენტი, რომელიც გადაფასებს და სორტირებს დოკუმენტებს ან ფრაგმენტებს, რომლებიც ამოღებულია ცოდნის ბაზიდან, რათა შეირჩეს ყველაზე შესაბამისი პასუხის გენერაციისთვის.

Re-ranker მოდელების ძირითადი ტიპები:

• Cross-encoder: მოდელი, რომელიც იღებს წყვილს (სხვა, დოკუმენტი) და ერთდროულად processing, გამოთვლის შესაბამისობას. ეს უფრო ზუსტი, მაგრამ გამოთვლით ძვირი მიდგომაა, რადგან თითოეული დოკუმენტი მუშავდება ერთად შეკითხვასთან.

• BGE-reranker (Bi-Encoder): მოდელები, რომლებიც კოდირებენ კითხვას და დოკუმენტებს ცალკე ვექტორებად და შემდეგ გამოთვლიან კოსაინუს მსგავსებას. უფრო სწრაფია, მაგრამ შეიძლება იყოს ნაკლებად ზუსტი, ვიდრე cross-encoder.

RAG-ში ხშირად პირველ რიგში გამოიყენება სწრაფი bi-encoder წინასწარი შერჩევისთვის, ხოლო შემდეგ — cross-encoder ზუსტი რეიტინგისთვის. Re-ranker ეხმარება დოკუმენტების შერჩევის ხარისხის გაუმჯობესებაში, რაც საბოლოო პასუხის გენერაციას აუმჯობესებს.