Mis on logistilise regressiooni kaotusefunktsioon?

Logistikaregresseerimise kaotuse funktsioon on binaarne rist-entropy (log loss). See mõõdab erinevust prognoositavate tõenäosuste ja tegelike klassi märkide vahel.

Objekti jaoks, mille märgistus y (0 või 1) ja prognoositav tõenäosus p (klass 1 tõenäosus), kirjutatakse kaotuse funktsioon järgmiselt:

[ L = - \left( y \cdot \log(p) + (1 - y) \cdot \log(1 - p) \right) ]

See funktsioon karistab mudelit vale prognooside eest, eriti kui mudel on kindel vale vastuse osas.

Näide Pythonis numpy kasutades:

import numpy as np

def log_loss(y_true, y_pred):
    epsilon = 1e-15  # stabiilsuse jaoks
    y_pred = np.clip(y_pred, epsilon, 1 - epsilon)
    return -np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))