Wat is bagging?

Bagging (Bootstrap Aggregating) is een ensemble-methode in machine learning die de stabiliteit en nauwkeurigheid van modellen verhoogt. Het belangrijkste idee is om meerdere modellen te trainen op verschillende willekeurige subsets van de oorspronkelijke gegevens met teruglegging (bootstrap), en vervolgens hun voorspellingen te middelen (voor regressie) of de meest voorkomende klasse te kiezen (voor classificatie).

Voordelen van bagging:

• Vermindert overfitting door de variantie van het model te verminderen.
• Verbetert de weerstand tegen ruis in de gegevens.

Voorbeeld: de willekeurige bos is een ensemble van beslissingsbomen gebouwd met behulp van bagging.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Basismodel
base_clf = DecisionTreeClassifier()

# Bagging met 10 modellen
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)