Miks staatilised sisestused ei sobi homonüümia ja polisemiaga?

Statilised sisestused (näiteks Word2Vec, GloVe) loovad iga sõna jaoks ühe fikseeritud vektori esituse, arvestamata konteksti, milles sõna kasutatakse. See põhjustab probleeme homonüümia (sõnad, mis on kirjutatud samamoodi, kuid millel on erinevad tähendused) ja polüseemia (sõnad, millel on mitu seotud tähendust) tõttu, kuna erinevad sõnade tähendused kuvatakse samasse vektori.

Näiteks võib sõna "pank" tähendada finantsasutust või jõe kallast. Statiline sisestus ei tee vahet nende tähenduste vahel ja ühendab need ühte vektori, mis vähendab teksti mõistmise ja töötlemise kvaliteeti.

Kaasaegsed kontekstuaalsed sisestused (näiteks BERT, ELMo) genereerivad sõnade esitlusi, võttes arvesse nende keskkonda lauses, võimaldades eristada sama sõna erinevaid tähendusi sõltuvalt kontekstist.