W gradient boosting, zmienna docelowa dla n-tego drzewa to ujemny gradient funkcji straty względem prognoz modelu na bieżącym etapie. Innymi słowy, każde kolejne drzewo jest trenowane do przewidywania błędu (reszty) poprzedniego modelu, aby zminimalizować funkcję straty.

Na przykład, jeśli funkcja straty to średni błąd kwadratowy, to zmienna docelowa dla n-tego drzewa będzie różnicą między wartościami rzeczywistymi a sumą prognoz wszystkich poprzednich drzew.

Poprzednia Dalej