Nima uchun gradientli boostlashda chiqishlar asosida o'rganib bo'lmaydi?

Gradientli boostingda, o'qitish xatolikning (gradientlarning) qoldiqlari bo'yicha amalga oshiriladi, avvalgi modellarning chiqishlari bo'yicha emas. Agar keyingi asosiy algoritmni faqat avvalgi chiqishlar asosida o'qitishga harakat qilsangiz, model xatoni to'g'ri minimallashtirmaydi, chunki u xatolikning yo'nalishi va kattaligini hisobga olmaydi, faqat yakuniy prognozni.

Gradientslar bo'yicha o'qitish, avvalgi modellarning xatoliklarini ketma-ket tuzatishga imkon beradi, bu esa konvergentsiya va sifatni yaxshilashni ta'minlaydi. Agar faqat chiqishlar bo'yicha o'qitilsa, model ortiqcha moslashishi yoki optimalga erisha olmaydi, chunki u prognozlarni qanchalik va qaysi yo'nalishda to'g'rilash kerakligini hisobga olmaydi.

Misol: klassik gradient boostingda, keyingi regressyor haqiqiy qiymatlar va hozirgi prognozlar orasidagi farq (qoldiqlar) bo'yicha o'qitiladi, o'zlari bo'yicha emas.