Was ist Sentence-BERT (SBERT) und warum wurde es entwickelt?

Sentence-BERT (SBERT) — ist eine Modifikation des BERT-Modells, die speziell entwickelt wurde, um effiziente und qualitativ hochwertige Vektor-Darstellungen (Embeddings) ganzer Sätze oder Texte zu erhalten, anstatt einzelner Wörter.

Das normale BERT funktioniert gut mit einzelnen Tokens, aber zum Vergleich von Sätzen oder zur semantischen Suche ist zusätzliche Verarbeitung erforderlich, die langsam und ineffizient sein kann. SBERT löst dieses Problem, indem es trainiert wird, feste Vektoren für Sätze zu erzeugen, die schnell mit Hilfe des Kosinusähnlichkeitsmaßes verglichen werden können.

Dies ist besonders nützlich für Aufgaben wie semantische Suche, Textclustering und die Bestimmung der Ähnlichkeit zwischen Sätzen.

Beispiel: Anstatt Sätze mit komplexen Berechnungen durch BERT zu vergleichen, ermöglicht SBERT, schnell semantisch ähnliche Sätze in einem großen Korpus zu finden.