Logistik regresiya üçün itki funksiyası nədir?

Logistik regresiya üçün itki funksiyası ikili kross-entropy (log itki)dir. Bu, proqnozlaşdırılan ehtimallar ilə həqiqi sinif etiketləri arasındakı fərqi ölçür.

Y (0 və ya 1) etiketi və p (sinf 1 ehtimalı) olan obyekt üçün itki funksiyası aşağıdakı kimi yazılır:

[ L = - \left( y \cdot \log(p) + (1 - y) \cdot \log(1 - p) \right) ]

Bu funksiya modelə yanlış proqnozlar üçün cəza verir, xüsusən də model yanlış cavabda çox əmin olduqda.

Python nümunəsi numpy ilə:

import numpy as np

def log_loss(y_true, y_pred):
    epsilon = 1e-15  # stabillik üçün
    y_pred = np.clip(y_pred, epsilon, 1 - epsilon)
    return -np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))