Lojistik regresyonu için kayıp fonksiyonu nedir?

Lojistik regresyonu için kayıp fonksiyonu ikili çapraz entropi (log kayıp)dır. Bu, tahmin edilen olasılıkların ve gerçek sınıf etiketlerinin farkını ölçer.

Bir nesne için y etiketi (0 veya 1) ve tahmin edilen p olasılığı (sınıf 1 olasılığı) olmak üzere, kayıp fonksiyonu şu şekilde yazılır:

[ L = - \left( y \cdot \log(p) + (1 - y) \cdot \log(1 - p) \right) ]

Bu fonksiyon, özellikle model yanlış bir cevapta kendinden emin olduğunda, yanlış tahminler için modeli cezalandırır.

NumPy kullanarak Python örneği:

import numpy as np

def log_loss(y_true, y_pred):
    epsilon = 1e-15  # stabilite için
    y_pred = np.clip(y_pred, epsilon, 1 - epsilon)
    return -np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))