U boostingu sa gradientom, težine se predstavljaju gradijentima, koji su izvedene funkcije gubitka u odnosu na predviđanja modela u trenutnom koraku. Ovi gradijenti pokazuju koliko je potrebno ispraviti predviđanja da bi se smanjila greška.

Na svakom koraku, gradi se novi model (obično drvo), koji uči da predviđa negativne gradijente (greške) prethodnog modela. Dakle, težine su greške koje treba ispraviti, i one usmeravaju obuku sledećeg modela za poboljšanje konačnog rezultata.

Primer: ako je funkcija gubitka MSE, gradijenti će biti razlika između predviđenih i stvarnih vrednosti, a novi model će pokušati da predvidi tu razliku.

Претходно Следеће