Junior — Middle
Parlez-nous du bag-of-words et de ses limitations.
sobes.tech IA
Réponse de l'IA
Bag-of-Words (BoW) est une méthode simple de représentation du texte sous forme d'un ensemble de mots sans tenir compte de l'ordre ni de la structure grammaticale. Le texte est divisé en mots (tokens), et un vecteur est créé où chaque élément reflète la quantité ou la présence d'un mot spécifique dans le document.
Limitations du BoW:
- Perte de l'ordre des mots. Le contexte et le sens dépendant de l'ordre ne sont pas pris en compte.
- Ignorer la sémantique. Les mots avec des significations différentes mais une forme similaire sont traités de la même manière.
- Grande dimension. Pour de grands dictionnaires, les vecteurs deviennent dispersés et encombrants.
- Sensibilité au bruit. Les mots fréquents mais peu informatifs (mots vides) peuvent influencer le modèle.
Exemple de BoW pour la phrase "Le chat est assis sur le tapis":
| mot | quantité |
|---|---|
| Le | 1 |
| chat | 1 |
| est | 1 |
| assis | 1 |
| sur | 1 |
| le | 1 |
| tapis | 1 |