Mis on gradienttõstmine? Kus ilmub gradient?

Gradienteeriv tugevdamine on ansamblõppimise meetod, mis ehitab mudelit järk-järgult, lisades uusi nõrku mudeleid (tavaliselt otsustuspuud), et parandada eelnevaid vigu.

Gradient ilmneb, kui iga uus mudel treenitakse praeguse ansambli mudeli prognooside kaotuse funktsiooni gradienti põhjal. Lihtsamalt öeldes vähendame viga, kasutades funktsioonide ruumis gradientmäärangut.

Igal sammul arvutatakse vea gradient (suund ja suurus, kus prognoose tuleb parandada), ning uus mudel treenitakse selle gradienti ennustamiseks, korrigeerides seeläbi lõplikku prognoosi.

See võimaldab tõhusalt vähendada viga ja parandada mudeli kvaliteeti, õppides järjest eelnevate mudelite vigadest.