Šta je bagging?

Bagging (Bootstrap Aggregating) je metoda ansambliranja u mašinskom učenju koja povećava stabilnost i tačnost modela. Glavna ideja je obučiti više modela na različitim slučajnim podskupovima originalnih podataka sa povratkom (bootstrap), a zatim prosečno predviđanje (za regresiju) ili izbor najčešće klase (za klasifikaciju).

Prednosti bagging-a:

• Smanjuje preprilagođavanje (overfitting) smanjenjem varijanse modela.
• Povećava otpornost na šum u podacima.

Primer: slučajni šumski model je ansambl odlučujućih stabala izgrađenih pomoću bagging-a.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Osnovni model
base_clf = DecisionTreeClassifier()

# Bagging sa 10 modela
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)