Bagging nima?

Bagging (Bootstrap Aggregating) — bu mashina o‘rganishdagi ansambl usuli bo‘lib, u modellarning barqarorligi va aniqligini oshiradi. Asosiy g‘oya — turli tasodifiy kichik to‘plamlarda (bootstrap bilan) bir nechta modellarni o‘qitish va ularning bashoratlarini o‘rtacha qilish (regressiya uchun) yoki eng ko‘p uchraydigan sinfni tanlash (klasifikatsiya uchun).

Baggingning afzalliklari:

• Modelning dispersiyasini kamaytirib, overfittingni (ortiqcha moslashishni) oldini oladi.
• Ma'lumotlardagi shovqinni qarshilik qilish qobiliyatini oshiradi.

Misol: tasodifiy o‘rmon — bu bagging yordamida qurilgan qaror daraxtlari ansamblidir.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Asosiy model
base_clf = DecisionTreeClassifier()

# 10 ta model bilan bagging
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)