Cos'è il bagging?

Il bagging (Bootstrap Aggregating) è un metodo di ensemble nell'apprendimento automatico che aumenta la stabilità e la precisione dei modelli. L'idea principale è di addestrare più modelli su diversi sottoinsiemi casuali dei dati originali con reinserimento (bootstrap), e poi mediare le loro previsioni (per regressione) o scegliere la classe più frequente (per classificazione).

Vantaggi del bagging:

• Riduce l'overfitting diminuendo la varianza del modello.
• Migliora la resistenza al rumore nei dati.

Esempio: la foresta casuale è un ensemble di alberi decisionali costruiti tramite bagging.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Modello di base
base_clf = DecisionTreeClassifier()

# Bagging con 10 modelli
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)