Какая функция потерь используется в бустинге для классификации и регрессии?

В бустинге для классификации часто используется логистическая функция потерь (log-loss), которая соответствует отрицательному логарифму правдоподобия для бинарной классификации. Она хорошо подходит для оценки вероятностных прогнозов и оптимизации моделей.

Для регрессии обычно применяется функция потерь на основе среднеквадратичной ошибки (MSE) или абсолютной ошибки (MAE). В градиентном бустинге MSE часто используется как функция потерь, так как она дифференцируема и позволяет эффективно вычислять градиенты для обновления модели.

Пример:

• Классификация: логистическая функция потерь
• Регрессия: среднеквадратичная ошибка (MSE)