Quelle est la différence entre la récupération sparse (BM25) et la dense?

La récupération sparse (par exemple, BM25) et la récupération dense sont deux approches pour la recherche d'informations :

• Récupération sparse (BM25) repose sur des méthodes traditionnelles, où les documents et les requêtes sont représentés comme des vecteurs dispersés, prenant en compte la fréquence des mots et leur importance. BM25 évalue la pertinence en fonction de la correspondance des mots-clés et de leur poids.

• Récupération dense utilise des modèles de réseaux neuronaux pour transformer les requêtes et les documents en vecteurs denses de dimension fixe. La recherche se fait par proximité de ces vecteurs dans l'espace des caractéristiques, ce qui permet de prendre en compte la proximité sémantique, et pas seulement les correspondances exactes de mots.

Ainsi, la récupération sparse fonctionne bien avec des correspondances exactes et des requêtes simples, tandis que la récupération dense est efficace pour comprendre le sens et les synonymes, ce qui est particulièrement important dans les systèmes modernes avec de grands modèles de langage et RAG (génération augmentée par récupération).