Mi az a bagging?

A Bagging (Bootstrap Aggregating) egy ensemble módszer a gépi tanulásban, amely növeli a modellek stabilitását és pontosságát. A fő ötlet az, hogy több modellt tanítunk különböző véletlenszerű alhalmazokon az eredeti adatokból (bootstrap), majd átlagoljuk a predikcióikat (regresszió esetén) vagy kiválasztjuk a leggyakrabban előforduló osztályt (osztályozás esetén).

A bagging előnyei:

• Csökkenti a túlillesztést (overfitting), mivel csökkenti a modell varianciáját.
• Javítja az adatok zajával szembeni ellenállást.

Példa: a véletlenszerű erdő egy bagging segítségével épített döntési fákból álló ensemble.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Alapmodell
base_clf = DecisionTreeClassifier()

# Bagging 10 modellel
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)