Que se passe-t-il si on supprime un arbre d'une forêt aléatoire?

Si vous supprimez un arbre de la forêt aléatoire, alors :

• Diminution de la précision du modèle : La qualité globale des prédictions peut légèrement se détériorer, car le nombre d'arbres votants diminue, ce qui réduit la stabilité et la capacité de généralisation.
• Réduction du temps de prédiction : Le modèle sera plus rapide, car moins d'arbres doivent être parcourus.
• L'impact dépend de l'importance de l'arbre : Si l'arbre supprimé était particulièrement informatif (par exemple, entraîné sur une partie unique des données), la perte de précision sera plus notable.

La forêt aléatoire repose sur l'idée de moyennage des prédictions de nombreux arbres pour réduire le surapprentissage et augmenter la stabilité. La suppression d'un arbre réduit l'ensemble, ce qui peut augmenter la variance et diminuer la qualité, mais dans la plupart des cas, la perte sera faible, surtout s'il y a beaucoup d'arbres.

Exemple : si une forêt aléatoire comporte 100 arbres, en supprimer un réduit le nombre à 99, ce qui n'affectera pratiquement pas le résultat, mais si une partie importante des arbres est supprimée, le modèle sera moins fiable.