Millal on sobiv kasutada cross-encoderit ja millal bi-encoderit otsingus?

Cross-encoder ja bi-encoder on kaks lähenemisviisi teksti paari (näiteks päring ja dokument) relevantsuse arvutamiseks otsingutülesannetes.

Cross-encoder ühendab kaks teksti ja läbib need samaaegselt mudeli kaudu, võimaldades arvestada mõlema teksti sõnadevahelisi seoseid. See tavaliselt annab täpsemad hinnangud relevantsusele, kuid nõuab arvutusi iga paari kohta eraldi, mis on aeglane ja ressursimahukas.

Bi-encoder kodeerib iga teksti eraldi fikseeritud suurusega vektoriks ning seejärel arvutatakse relevantsus, näiteks vektorite vahelise kosinuse sarnasuse kaudu. See on palju kiirem, kuna kõik dokumendid saab eelnevalt kodeerida ja kiiresti võrrelda päringuga.

Millal kasutada:

• Cross-encoder sobib, kui oluline on maksimaalne täpsus ja on võimalik arvutada relevantsus piiratud paari arvule (näiteks top-N kandidaatide järjestamine).
• Bi-encoder sobib suuremahulise otsingu jaoks suure hulga dokumentide seas, kus on vaja kõrget kiirust ja täpsus võib olla veidi madalam.

Tihti kasutatakse hübriidmeetodit: esmalt bi-encoder kiireks kandidaatide valikuks, seejärel cross-encoder täpseks järjestamiseks.