Kas veikia kaip svoris gradientinio stiprinimo metu?

Gradientų stiprinime svoriai yra vaizduojami gradientais, kurie yra nuostolio funkcijos išvestinės, atsižvelgiant į modelio prognozes esamu žingsniu. Šie gradientai rodo, kiek reikia koreguoti prognozes, kad sumažintume klaidą.

Kiekviename žingsnyje kuriamas naujas modelis (paprastai medis), kuris mokosi prognozuoti ankstesnio modelio neigiamus gradientus (klaidas). Taigi, svoriai yra klaidos, kurias reikia pataisyti, ir jos nukreipia kitą modelį mokytis gerinti galutinį rezultatą.

Pavyzdys: jei nuostolio funkcija yra MSE, gradientai bus skirtumas tarp prognozuotų ir tikrųjų reikšmių, ir naujas modelis bandys prognozuoti šį skirtumą.