Povězte nám o bag-of-words a jeho omezeních.

Bag-of-Words (BoW) je jednoduchá metoda reprezentace textu jako souboru slov bez ohledu na pořadí a gramatickou strukturu. Text je rozdělen na slova (tokeny) a vytváří se vektor, kde každý prvek odráží množství nebo přítomnost konkrétního slova v dokumentu.

Omezení BoW:

• Ztráta pořadí slov. Kontext a význam závislý na pořadí nejsou zohledněny.
• Ignorování sémantiky. Slova s různým významem, ale podobnou formou, jsou považována za stejná.
• Vysoká dimenzionalita. Pro velké slovníky se vektory stávají řídkými a objemnými.
• Citlivost na šum. Často se vyskytující, ale málo informativní slova (stop slova) mohou ovlivnit model.

Příklad BoW pro větu "Kočka sedí na koberci":

slovo	množství
Kočka	1
sedí	1
na	1
koberci	1