Vorbește-ne despre bag-of-words și limitările sale.

Bag-of-Words (BoW) este o metodă simplă de reprezentare a textului sub forma unui set de cuvinte, fără a ține cont de ordinea și structura gramaticală. Textul este împărțit în cuvinte (tokeni), și se creează un vector în care fiecare element reflectă cantitatea sau prezența unui anumit cuvânt în document.

Limitări ale BoW:

• Pierdere a ordinii cuvintelor. Contextul și sensul, care depind de ordine, nu sunt luate în considerare.
• Ignorarea semanticii. Cuvintele cu semnificații diferite, dar formă similară, sunt tratate în același mod.
• Dimensionalitate mare. Pentru dicționare mari, vectorii devin dispersați și voluminoși.
• Sensibilitate la zgomot. Cuvintele frecvent întâlnite, dar cu informație redusă (stop words), pot influența modelul.

Exemplu de BoW pentru propoziția "Pisica stă pe covor":

cuvânt	cantitate
Pisica	1
stă	1
pe	1
covor	1