Ce este bagging?

Bagging (Bootstrap Aggregating) este o metodă de ansamblu în învățarea automată care crește stabilitatea și precizia modelelor. Ideea principală este de a antrena mai multe modele pe diferite subeșantioane ale datelor originale cu înlocuire (bootstrap), apoi de a media predicțiile lor (pentru regresie) sau de a alege clasa cea mai frecventă (pentru clasificare).

Avantajele bagging:

• Reduce overfitting-ul prin scăderea varianței modelului.
• Îmbunătățește rezistența la zgomotul din date.

Exemplu: pădurea aleatorie este un ansamblu de arbori de decizie construiți cu ajutorul bagging.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Model de bază
base_clf = DecisionTreeClassifier()

# Bagging cu 10 modele
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)