Ce funcție de pierdere este utilizată în boosting pentru clasificare și regresie?

În boosting pentru clasificare, se utilizează adesea funcția de pierdere logistica (log-loss), care corespunde logaritmului negativ al verosimilității pentru clasificarea binară. Este potrivită pentru evaluarea previziunilor probabilistice și pentru optimizarea modelelor.

Pentru regresie, se aplică de obicei funcția de pierdere bazată pe eroarea pătratică medie (MSE) sau eroarea absolută medie (MAE). În boosting-ul pe gradient, MSE este adesea folosit ca funcție de pierdere, deoarece este diferențiabil și permite calcularea eficientă a gradientelor pentru actualizarea modelului.

Exemplu:

• Clasificare: funcție de pierdere logistică
• Regressie: eroare pătratică medie (MSE)