Какво е bagging?

Bagging (Bootstrap Aggregating) е метод за ансамблиране в машинното обучение, който увеличава стабилността и точността на моделите. Основната идея е да обучите няколко модела върху различни случайни подмножества на оригиналните данни с връщане (bootstrap), а след това да средноизмерите техните прогнози (за регресия) или да изберете най-често срещания клас (за класификация).

Предимства на bagging:

• Намалява overfitting, като намалява дисперсията на модела.
• Подобрява устойчивостта към шум в данните.

Пример: случаен лес е ансамбъл от решаващи дървета, построени с помощта на bagging.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Базов модел
base_clf = DecisionTreeClassifier()

# Bagging с 10 модела
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)