Mis on Sentence-BERT (SBERT) ja milleks see loodud oli?

Sentence-BERT (SBERT) — on BERT-mudeli muutmine, mis on spetsiaalselt loodud tõhusate ja kvaliteetsete vektorreprezentatsioonide (embeddings) saamiseks kogu lause või teksti kohta, mitte üksikute sõnade kohta.

Tavaline BERT töötab hästi üksikute tokenitega, kuid lausete võrdlemiseks või tähenduse järgi otsimiseks on vaja täiendavat töötlemist, mis võib olla aeglane ja ebaefektiivne. SBERT lahendab selle probleemi, õppides mudelit genereerima fikseeritud vektoreid lausete jaoks, mida saab kiiresti võrrelda kosinuse sarnasuse abil.

See on eriti kasulik semantilise otsingu, tekstiklastrite ja lausete sarnasuse määramise ülesannetes.

Näide: selle asemel, et võrrelda lauseid keeruliste arvutustega BERT-i abil, võimaldab SBERT kiiresti leida suurest tekstikorpustest sarnase tähendusega lauseid.