Kas darbojas kā svars gradienta pastiprinājumā?

Gradientu pastiprinājumā svaru attēlojums ir gradienti, kas ir zaudējuma funkcijas atvasinājumi attiecībā uz modeļa prognozēm pašreizējā solī. Šie gradienti rāda, cik ļoti ir nepieciešams koriģēt prognozes, lai samazinātu kļūdu.

Katram solim tiek būvēts jauns modelis (parasti koks), kas mācas prognozēt iepriekšējā modeļa negatīvos gradientus (kļūdas). Tādējādi, svaru ir kļūdas, kuras ir jālabo, un tās virza nākamo modeļa apmācību, lai uzlabotu galarezultātu.

Piemērs: ja zaudējuma funkcija ir MSE, gradienti būs starpība starp prognozētajām un patiesajām vērtībām, un jauns modelis mēģinās prognozēt šo starpību.