Kad ir kad izmantot cross-encoder, un kad bi-encoder meklēšanā?

Cross-encoder un bi-encoder ir divi pieejas teksta pāru relevances aprēķināšanai (piemēram, vaicājuma un dokumenta) meklēšanas uzdevumos.

Cross-encoder apvieno abus tekstus un vienlaikus tos pārbauda caur modeli, ļaujot ņemt vērā abu tekstu vārdu savstarpējo mijiedarbību. Parasti tas sniedz precīzākas relevances novērtējumus, bet prasa aprēķinus katram pārim atsevišķi, kas ir laika un resursu ziņā dārgi.

Bi-encoder kodē katru tekstu atsevišķi fiksēta izmēra vektora formā, un tad relevanci aprēķina, piemēram, kā kosinusa līdzību starp vektoriem. Tas ir daudz ātrāk, jo visus dokumentus var iepriekš kodēt un ātri salīdzināt ar vaicājumu.

Kad izmantot:

• Cross-encoder ir piemērots, kad ir svarīga maksimāla precizitāte un ir iespējams aprēķināt relevanci ierobežotam pārīšu skaitam (piemēram, top-N kandidātu rangēšanai).
• Bi-encoder ir piemērots mērogojamai meklēšanai lielā dokumentu daudzumā, kur nepieciešama augsta ātruma, bet precizitāte var būt nedaudz zemāka.

Bieži tiek izmantota hibrīda pieeja: vispirms bi-encoder ātrai kandidātu atlasei, pēc tam cross-encoder precīzai rangēšanai.