Градиентті бустинг дегеніміз не?

Градиентті бустинг — бұл ансамбльдік оқыту әдісі, ол модельді бірінен соң бірін құрып, жаңа әлсіз модельдерді (әдетте, шешім ағаштарын) алдыңғы қателерін түзету үшін қосады. Идея — әр келесі модельді алдыңғы модельдің қателігі градиенті бойынша оқыту арқылы шығын функциясын минимизациялау. Бұл көптеген қарапайым модельдерді біріктіріп, күшті болжау ансамбліне айналдыру арқылы болжам сапасын тиімді жақсартуға мүмкіндік береді.

Python-да scikit-learn кітапханасын пайдаланып мысал:

from sklearn.ensemble import GradientBoostingClassifier

X_train, y_train = ...  # оқыту деректері
model = GradientBoostingClassifier(n_estimators=100, learning_rate=0.1)
model.fit(X_train, y_train)

Градиентті бустинг жоғары дәлдік пен икемділігі арқасында жіктеу және регрессия тапсырмаларында кеңінен қолданылады.