Qu'est-ce que Sentence-BERT (SBERT) et pourquoi a-t-il été conçu?

Sentence-BERT (SBERT) — c'est une modification du modèle BERT, spécialement conçue pour obtenir des représentations vectorielles efficaces et de haute qualité (embeddings) de phrases entières ou de textes, plutôt que de mots individuels.

BERT classique fonctionne bien avec des tokens individuels, mais pour comparer des phrases ou rechercher par sens, un traitement supplémentaire est nécessaire, ce qui peut être lent et inefficace. SBERT résout ce problème en apprenant à produire des vecteurs fixes pour les phrases, qui peuvent être rapidement comparés à l'aide de la similarité cosinus.

Ceci est particulièrement utile pour les tâches de recherche sémantique, de clustering de textes et de détermination de la similarité entre phrases.

Exemple : au lieu de comparer des phrases via des calculs complexes avec BERT, SBERT permet de trouver rapidement des phrases similaires en sens dans un grand corpus.