Kas ir bagging?

Bagging (Bootstrap Aggregating) ir ansamblēšanas metode mašīnmācībā, kas palielina modeļu stabilitāti un precizitāti. Galvenā ideja ir trenēt vairākus modeļus uz dažādiem nejaušiem apakškopumiem no sākotnējiem datiem ar atgriešanos (bootstrap), un pēc tam vidēji prognozēt to rezultātus (regresijai) vai izvēlēties visbiežāk sastopamo klasi (klasifikācijai).

Bagging priekšrocības:

• Samazina overfitting, samazinot modeļa dispersiju.
• Uzlabo izturību pret trokšņiem datos.

Piemērs: nejaušais mežs ir ansamblis no lēmumu kokiem, kas būvēts ar bagging palīdzību.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Pamatmodelis
base_clf = DecisionTreeClassifier()

# Bagging ar 10 modeļiem
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)