Welke verliesfunctie wordt gebruikt in boosting voor classificatie en regressie?

Bij boosting voor classificatie wordt vaak de log-loss gebruikt, die overeenkomt met de negatieve logaritme van de waarschijnlijkheid voor binaire classificatie. Het is geschikt voor het beoordelen van probabilistische voorspellingen en het optimaliseren van modellen.

Voor regressie wordt meestal de verliesfunctie op basis van de mean squared error (MSE) of de mean absolute error (MAE) toegepast. In gradient boosting wordt vaak MSE gebruikt als verliesfunctie, omdat deze differentieerbaar is en het efficiënt berekenen van gradients voor modelupdates mogelijk maakt.

Voorbeeld:

• Classificatie: logistische verliesfunctie
• Regressie: mean squared error (MSE)