Gradient boosting meetodil on n-nda puu sihtmuutuja negatiivne gradient kaotusefunktsiooni suhtes, mis põhineb mudeli praegustel prognoosidel. Lihtsamalt öeldes, iga järgnev puu õpib prognoosima eelneva mudeli viga (jääki), et minimeerida kaotusefunktsiooni.

Näiteks, kui kaotusefunktsioon on keskmine ruutviga, siis n-nda puu sihtmuutuja on tõeliste väärtuste ja kõigi eelnevate puude prognooside summa vahe.

Eelmine Edasi