Jaka funkcja straty jest używana w boosting do klasyfikacji i regresji?

W boostingu do klasyfikacji często używa się funkcji straty logistycznej (log-loss), która odpowiada ujemnemu logarytmowi wiarygodności dla klasyfikacji binarnej. Jest ona dobrze dopasowana do oceny prognoz probabilistycznych i optymalizacji modeli.

Dla regresji zwykle stosuje się funkcję straty opartą na średnim błędzie kwadratowym (MSE) lub błędzie bezwzględnym (MAE). W gradient boosting często używa się MSE jako funkcji straty, ponieważ jest ona różniczkowalna i pozwala na efektywne obliczanie gradientów do aktualizacji modelu.

Przykład:

• Klasyfikacja: funkcja straty logistycznej
• Regresja: średni błąd kwadratowy (MSE)