Ի՞նչ է բուստինգը։

Բուստինգը՝ դա մի ensemble ուսուցման մեթոդ է, որը հերթական կերպով ուսուցանում է մի քանի թույլ մոդելներ (հաճախ որոշումների ծառեր), որոնցից յուրաքանչյուրը ուղղում է նախորդների սխալները։ Վերջում ստացվում է ուժեղ մոդել բարձր ճշգրտությամբ։ Հիմնական գաղափարը՝ յուրաքանչյուր քայլում ավելի շատ ուշադրություն դարձնել այն օբյեկտներին, որոնց վրա նախորդ մոդելները սխալվել են։

Օրինակներ՝ AdaBoost, Gradient Boosting, XGBoost՝ հանրահայտ բուստինգի իրականացմաններ։

Python-ում sklearn օգտագործելով՝

from sklearn.ensemble import GradientBoostingClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

X, y = load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)

մոդել = GradientBoostingClassifier(n_estimators=100, learning_rate=0.1)
մոդել.fit(X_train, y_train)
print(f"Անհամապատասխանություն: {մոդել.score(X_test, y_test):.2f}")