Wat is Sentence-BERT (SBERT) en waarom is het ontworpen?

Sentence-BERT (SBERT) — is een modificatie van het BERT-model, speciaal ontworpen om efficiënte en kwalitatief hoogwaardige vectorrepresentaties (embeddings) te verkrijgen van volledige zinnen of teksten, in plaats van losse woorden.

De gewone BERT werkt goed met individuele tokens, maar voor het vergelijken van zinnen of het zoeken op basis van betekenis, is aanvullende verwerking nodig, wat traag en inefficiënt kan zijn. SBERT lost dit probleem op door getraind te worden om vaste vectoren voor zinnen te genereren, die snel kunnen worden vergeleken met behulp van de cosinusgelijkenis.

Dit is vooral handig voor semantisch zoeken, tekstclustering en het bepalen van de gelijkenis tussen zinnen.

Voorbeeld: in plaats van zinnen te vergelijken via complexe berekeningen met BERT, maakt SBERT het mogelijk om snel zinnen met vergelijkbare betekenis te vinden in een grote corpus.