Aramada cross-encoder mı yoksa bi-encoder mı kullanmak uygundur?

Cross-encoder ve bi-encoder, arama görevlerinde metin çifti (örneğin, sorgu ve belge) uygunluğunu hesaplamanın iki yaklaşımıdır.

Cross-encoder, iki metni bir araya getirir ve aynı anda bir modele sokar, bu da her iki metindeki kelimeler arasındaki etkileşimleri dikkate almayı sağlar. Bu genellikle daha doğru uygunluk değerlendirmeleri sağlar, ancak her çift için ayrı hesaplamalar gerektirir, bu da zaman ve kaynak açısından maliyetlidir.

Bi-encoder, her metni ayrı ayrı sabit boyutlu bir vektöre kodlar ve ardından uygunluk, örneğin, vektörler arasındaki kosinüs benzerliği olarak hesaplanır. Bu çok daha hızlıdır, çünkü tüm belgeleri önceden kodlayabilir ve sorgu ile hızlıca karşılaştırabilirsiniz.

Ne zaman kullanmalı:

• Cross-encoder, maksimum doğruluk önemliyse ve sınırlı sayıda çift için uygunluk hesaplaması yapılabiliyorsa uygundur (örneğin, en iyi N adayın sıralanması).
• Bi-encoder, büyük miktarda belge üzerinde ölçeklenebilir arama için uygundur, yüksek hız gereklidir ve doğruluk biraz daha düşük olabilir.

Sıklıkla hibrit bir yaklaşım kullanılır: önce hızlı aday seçimi için bi-encoder, sonra da kesin sıralama için cross-encoder.