RAGта re-ranker эмне? Канча моделдер колдонулат (cross-encoder, bge-reranker)?

RAG (Retrieval-Augmented Generation) системасында re-ranker — бул компонент, ал базадан алынган документтерди же бөлүктөрдү кайра баалоо жана сорттоо үчүн колдонулат, жоопту түзүү үчүн эң релеванттууларын тандоого жардам берет.

Re-ranker моделдеринин негизги түрлөрү:

• Cross-encoder: бул модель, ал (суроо, документ) жупту кабыл алып, аларды бир убакта иштетип, тиешелүүлүгүн эсептейт. Бул так, бирок эсептөө жактан кымбат, анткени ар бир документ сураш менен бирге иштелет.

• BGE-reranker (Bi-Encoder): моделдер, алар суроону жана документтерди бөлөк-векторлорго коддошот жана андан соң косинус окшоштугун эсептешет. Жылдамыраак, бирок cross-encoderге караганда так эмес болушу мүмкүн.

RAGда көбүнчө биринчи тез bi-encoder колдонулат алдын ала тандоо үчүн, андан соң так сорттоо үчүн cross-encoder колдонулат. Re-ranker документтердин тандоо сапатын жакшыртууга жардам берет, бул акыркы жоопту түзүүдө натыйжалуулугун жогорулатат.