Wat is de doelvariabele van de n-de boom in gradient boosting?

In gradient boosting is de doelvariabele voor de n-de boom de negatieve gradient van de verliesfunctie met betrekking tot de voorspellingen van het model in de huidige fase. Simpel gezegd, wordt elke volgende boom getraind om de fout (residu) van het vorige model te voorspellen, om de verliesfunctie te minimaliseren.

Bijvoorbeeld, als de verliesfunctie de mean squared error is, dan zal de doelvariabele voor de n-de boom het verschil zijn tussen de werkelijke waarden en de som van de voorspellingen van alle vorige bomen.