Was ist Bagging?

Bagging (Bootstrap Aggregating) ist eine Ensemble-Methode im maschinellen Lernen, die die Stabilität und Genauigkeit von Modellen erhöht. Die Hauptidee ist, mehrere Modelle auf verschiedenen zufälligen Teilmengen der Originaldaten mit Zurücklegen (Bootstrap) zu trainieren und dann ihre Vorhersagen zu mitteln (bei Regression) oder die häufigste Klasse zu wählen (bei Klassifikation).

Vorteile von Bagging:

• Reduziert Overfitting, indem die Varianz des Modells verringert wird.
• Verbessert die Robustheit gegenüber Rauschen in den Daten.

Beispiel: Der Random Forest ist ein Ensemble aus Entscheidungsbäumen, die mittels Bagging aufgebaut werden.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Basis-Modell
base_clf = DecisionTreeClassifier()

# Bagging mit 10 Modellen
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)