Kedy je vhodný cross-encoder a kedy bi-encoder pri vyhľadávaní?

Cross-encoder a bi-encoder sú dva prístupy na výpočet relevantnosti páru textov (napríklad dotazu a dokumentu) v úlohách vyhľadávania.

Cross-encoder kombinuje dva texty a prechádza ich súčasne modelom, čo umožňuje zohľadniť interakcie medzi slovami oboch textov. To zvyčajne poskytuje presnejšie odhady relevantnosti, ale vyžaduje výpočty pre každý pár samostatne, čo je časovo a výpočtovo náročné.

Bi-encoder kóduje každý text samostatne do vektora pevnej veľkosti, a potom sa relevantnosť počíta napríklad ako kosínusová podobnosť medzi vektormi. To je oveľa rýchlejšie, pretože všetky dokumenty môžu byť vopred zakódované a rýchlo porovnávané s dotazom.

Kedy použiť:

• Cross-encoder je vhodný, keď je dôležitá maximálna presnosť a je možné si dovoliť vypočítať relevantnosť pre obmedzený počet párov (napríklad zoradenie top-N kandidátov).
• Bi-encoder je vhodný pre škálovateľné vyhľadávanie vo veľkom množstve dokumentov, kde je potrebná vysoká rýchlosť a presnosť môže byť trochu nižšia.

Často sa používa hybridný prístup: najskôr bi-encoder na rýchly výber kandidátov, potom cross-encoder na presné zoradenie.