Kāpēc statiskās iekļaušanas nav piemērotas homonīmijai un polisēmijai?

Statiskās iekļaušanas (piemēram, Word2Vec, GloVe) katram vārdam izveido vienu fiksētu vektoru reprezentāciju, neņemot vērā kontekstu, kurā vārds tiek lietots. Tas noved pie homonīmijas (vārdi, kas rakstīti vienādi, bet ar dažādiem nozīmēm) un polisēmijas (vārdi ar vairākām saistītām nozīmēm) problēmām, jo dažādas vārda nozīmes tiek attēlotas tajā pašā vektora formā.

Piemēram, vārds "banka" var nozīmēt finanšu iestādi vai upes krastu. Statiskā iekļaušana nešķir šīs nozīmes un apvieno tās vienā vektora, kas samazina teksta sapratnes un apstrādes kvalitāti.

Mūsdienu kontekstālās iekļaušanas (piemēram, BERT, ELMo) ģenerē vārdu reprezentācijas, ņemot vērā to apkārtni teikumā, ļaujot atšķirt dažādas tā paša vārda nozīmes atkarībā no konteksta.