Что такое two-tower model для retrieval?

Two-tower model для retrieval — это архитектура нейросети, состоящая из двух отдельных веток ("башен"), каждая из которых обрабатывает разные типы данных, например, запрос и документы. Каждая башня кодирует вход в векторное представление (эмбеддинг) в общем пространстве признаков. Затем для поиска релевантных документов вычисляют сходство (например, косинусное) между эмбеддингом запроса и эмбеддингами документов.

Такой подход позволяет эффективно индексировать и искать по большому количеству документов, так как эмбеддинги документов можно заранее вычислить и хранить, а при запросе достаточно вычислить эмбеддинг запроса и быстро найти ближайшие векторы.

Пример:

• Башня 1: кодирует текст запроса в вектор.
• Башня 2: кодирует каждый документ в вектор.
• Поиск: вычисление косинусного сходства между вектором запроса и векторами документов.

Это широко используется в системах рекомендаций и поисковых системах для масштабируемого retrieval.