Boosting nedir?

Boosting, zayıf modelleri ardışık olarak eğiten ve her biri önceki modellerin hatalarını düzelten bir topluluk öğrenme yöntemidir (genellikle karar ağaçları). Sonuçta, yüksek doğruluklu güçlü bir model elde edilir. Temel fikir, her adımda önceki modellerin hata yaptığı nesnelere daha fazla dikkat etmektir.

Örnekler: AdaBoost, Gradient Boosting, XGBoost — popüler boosting uygulamaları.

Python'da sklearn kullanarak örnek:

from sklearn.ensemble import GradientBoostingClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

X, y = load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)

model = GradientBoostingClassifier(n_estimators=100, learning_rate=0.1)
model.fit(X_train, y_train)
print(f"Doğruluk: {model.score(X_test, y_test):.2f}")