Kodėl negalima mokytis tiesiogiai iš gradientinio stiprinimo išėjimų?

Gradientinio stiprinimo atveju mokymas vyksta remiantis likučiais (gradientais klaidos), o ne ankstesnių modelių išėjimais. Jei bandysite mokyti kitą pagrindinį algoritmą tik remiantis ankstesnių išėjimų rezultatais, modelis neteisingai sumažins klaidą, nes neatsižvelgia į klaidos kryptį ir dydį, tik galutinę prognozę.

Gradientų mokymas leidžia nuosekliai taisyti ankstesnių modelių klaidas, užtikrinant konvergenciją ir kokybės gerinimą. Jei mokoma tik remiantis išėjimais, modelis gali per daug prisitaikyti arba nepasiekti optimalaus, nes neatsižvelgia į tai, kiek ir kokia kryptimi reikia koreguoti prognozes.

Pavyzdys: klasikinio gradientinio stiprinimo atveju, sekantis regresorius mokomas remiantis tikraisiais duomenimis ir esamomis prognozėmis (likučiais), o ne pačiomis prognozėmis.