Jaká funkce ztráty se používá v boosting pro klasifikaci a regresi?

V boostingu pro klasifikaci často používáme logistickou ztrátovou funkci (log-loss), která odpovídá zápornému logaritmu pravděpodobnosti pro binární klasifikaci. Je vhodná pro hodnocení pravděpodobnostních předpovědí a optimalizaci modelů.

Pro regresi se obvykle používá ztrátová funkce založená na střední kvadratické chybě (MSE) nebo střední absolutní chybě (MAE). V gradientním boosting se často používá MSE jako ztrátová funkce, protože je diferencovatelná a umožňuje efektivní výpočet gradientů pro aktualizaci modelu.

Příklad:

• Klasifikace: logistická ztrátová funkce
• Regrese: střední kvadratická chyba (MSE)