Kas ir gradienta pastiprinājums? Kur parādās gradients?

Gradienta pastiprināšana ir ansamblmācīšanās metode, kas pakāpeniski veido modeli, pievienojot jaunus vājus modeļus (parasti lēmumu kokus), lai labotu iepriekšējo kļūdas.

Gradients parādās, kad katrs jauns modelis tiek apmācīts, balstoties uz pašreizējā ansambļa modeļa prognožu zaudējumu funkcijas gradientu. Vienkārši sakot, mēs samazinām kļūdu, izmantojot gradienta kritumu funkciju telpā.

Katrs solis tiek aprēķināts kļūdas gradients (virziens un lielums, kur jāuzlabo prognozes), un jauns modelis tiek apmācīts, lai prognozētu šo gradientu, tādējādi koriģējot galīgo prognozi.

Tas ļauj efektīvi samazināt kļūdu un uzlabot modeļa kvalitāti, sekvenciāli mācoties no iepriekšējo modeļu kļūdām.