Wat is het two-tower model voor retrieval?

Het twee-torenmodel voor retrieval is een architectuur van een neuraal netwerk die bestaat uit twee aparte takken ("torens"), waarbij elke tak verschillende typen gegevens verwerkt, bijvoorbeeld een query en documenten. Elke toren codeert de invoer in een vectorrepresentatie (embedding) in een gemeenschappelijke kenmerkenruimte. Vervolgens wordt, om relevante documenten te zoeken, de overeenkomst (bijvoorbeeld cosinus) berekend tussen de embedding van de query en die van de documenten.

Deze aanpak maakt het mogelijk om efficiënt te indexeren en te zoeken in een grote hoeveelheid documenten, omdat de embeddings van documenten vooraf kunnen worden berekend en opgeslagen, en bij een query hoeft alleen de embedding van de query te worden berekend en kunnen de dichtstbijzijnde vectoren snel worden gevonden.

Voorbeeld:

• Toren 1: codeert de tekst van de query in een vector.
• Toren 2: codeert elk document in een vector.
• Zoekactie: berekening van de cosinusovereenkomst tussen de query-vector en de documentvectoren.

Dit wordt veel gebruikt in aanbevelingssystemen en zoekmachines voor schaalbare retrieval.