Kas yra bagging?

Bagging (Bootstrap Aggregating) yra ansamblio metodas mašininiame mokyme, kuris didina modelių stabilumą ir tikslumą. Pagrindinė idėja yra mokyti keletą modelių skirtinguose atsitiktiniu būdu parinktų pagrindinių duomenų pogrupiuose (bootstrap) ir tada jų prognozes vidurkinti (regresijai) arba pasirinkti dažniausiai pasitaikančią klasę (klasifikacijai).

Bagging privalumai:

• Sumažina permokymąsi (overfitting), sumažindamas modelio dispersiją.
• Pagerina atsparumą triukšmui duomenyse.

Pavyzdys: atsitiktinis miškas — tai bagging pagalba sukurta sprendimų medžių ansamblis.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Pagrindinis modelis
base_clf = DecisionTreeClassifier()

# Bagging su 10 modeliais
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)