Junior — Middle
Parlaci di bag-of-words e delle sue limitazioni.
sobes.tech AI
Risposta dell'AI
Bag-of-Words (BoW) è un metodo semplice per rappresentare il testo come un insieme di parole senza considerare l'ordine o la struttura grammaticale. Il testo viene suddiviso in parole (token), e viene creato un vettore in cui ogni elemento riflette la quantità o la presenza di una parola specifica nel documento.
Limitazioni di BoW:
- Perdita dell'ordine delle parole. Il contesto e il significato dipendono dall'ordine, che non viene considerato.
- Ignorare la semantica. Le parole con significati diversi, ma forma simile, sono trattate allo stesso modo.
- Alta dimensionalità. Per grandi dizionari, i vettori diventano sparsi e ingombranti.
- Sensibilità al rumore. Le parole frequenti ma poco informative (stop words) possono influenzare il modello.
Esempio di BoW per la frase "Il gatto è seduto sul tappeto":
| parola | quantità |
|---|---|
| Il | 1 |
| gatto | 1 |
| è | 1 |
| seduto | 1 |
| sul | 1 |
| il | 1 |
| tappeto | 1 |