Sobes.tech
Junior — Middle

Parlaci di bag-of-words e delle sue limitazioni.

sobes.tech AI

Risposta dell'AI

Bag-of-Words (BoW) è un metodo semplice per rappresentare il testo come un insieme di parole senza considerare l'ordine o la struttura grammaticale. Il testo viene suddiviso in parole (token), e viene creato un vettore in cui ogni elemento riflette la quantità o la presenza di una parola specifica nel documento.

Limitazioni di BoW:

  • Perdita dell'ordine delle parole. Il contesto e il significato dipendono dall'ordine, che non viene considerato.
  • Ignorare la semantica. Le parole con significati diversi, ma forma simile, sono trattate allo stesso modo.
  • Alta dimensionalità. Per grandi dizionari, i vettori diventano sparsi e ingombranti.
  • Sensibilità al rumore. Le parole frequenti ma poco informative (stop words) possono influenzare il modello.

Esempio di BoW per la frase "Il gatto è seduto sul tappeto":

parola quantità
Il 1
gatto 1
è 1
seduto 1
sul 1
il 1
tappeto 1