Quale funzione di perdita viene utilizzata nel boosting per classificazione e regressione?

Nel boosting per la classificazione, si utilizza spesso la funzione di perdita logistica (log-loss), che corrisponde al logaritmo negativo della verosimiglianza per la classificazione binaria. È adatta per valutare previsioni probabilistiche e ottimizzare i modelli.

Per la regressione, si applica generalmente la funzione di perdita basata sull'errore quadratico medio (MSE) o sull'errore assoluto medio (MAE). Nel boosting gradiente, il MSE viene spesso utilizzato come funzione di perdita, poiché è differenziabile e permette di calcolare efficacemente i gradienti per aggiornare il modello.

Esempio:

• Classificazione: funzione di perdita logistica
• Regressione: errore quadratico medio (MSE)