Qu'est-ce que le bagging?

Le bagging (Bootstrap Aggregating) est une méthode d'ensemble en apprentissage automatique qui améliore la stabilité et la précision des modèles. L'idée principale est d'entraîner plusieurs modèles sur différents sous-ensembles aléatoires des données originales avec remise (bootstrap), puis de moyenniser leurs prédictions (pour la régression) ou de choisir la classe la plus fréquente (pour la classification).

Avantages du bagging :

• Réduit le surapprentissage (overfitting) en diminuant la variance du modèle.
• Améliore la résistance au bruit dans les données.

Exemple : la forêt aléatoire est un ensemble d'arbres de décision construits par bagging.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Modèle de base
base_clf = DecisionTreeClassifier()

# Bagging avec 10 modèles
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)