Vertel ons over bag-of-words en de beperkingen ervan.

Bag-of-Words (BoW) is een eenvoudige methode om tekst voor te stellen als een verzameling woorden zonder rekening te houden met de volgorde en grammaticale structuur. De tekst wordt opgesplitst in woorden (tokens), en er wordt een vector gemaakt waarin elk element de hoeveelheid of aanwezigheid van een specifiek woord in het document weerspiegelt.

Beperkingen van BoW:

• Verlies van woordvolgorde. Context en betekenis die afhankelijk zijn van de volgorde worden niet meegenomen.
• Semantiek negeren. Woorden met verschillende betekenissen, maar vergelijkbare vorm, worden op dezelfde manier behandeld.
• Hoge dimensionaliteit. Voor grote woordenboeken worden de vectoren spaarzaam en omvangrijk.
• Gevoeligheid voor ruis. Vaak voorkomende, maar weinig informatieve woorden (stopwoorden) kunnen het model beïnvloeden.

Voorbeeld van BoW voor de zin "De kat zit op het tapijt":

woord	hoeveelheid
De	1
kat	1
zit	1
op	1
het	1
tapijt	1