Ի՞նչ է կորուստների ֆունկցիան լոգիստիկ ռեգրեսի համար։

Լոգիստիկ ռեգրեսիայի համար կորուստի ֆունկցիան բինար կռոս-энтրոպիան (log loss) է։ Այն չափում է կանխատեսված հավանականությունների և իրական դասի նշանների տարբերությունը։

Օբյեկտի համար, որի նշանը y (0 կամ 1) է և կանխատեսված հավանականությունը p (դասի 1 հավանականությունը), կորուստի ֆունկցիան գրանցվում է հետևյալ կերպ՝

[ L = - \left( y \cdot \log(p) + (1 - y) \cdot \log(1 - p) \right) ]

Այս ֆունկցիան պատժում է մոդելին սխալ կանխատեսումների համար, հատկապես եթե մոդելը վստահ է սխալ պատասխանի մեջ:

Python-ում numpy-ով օրինակ՝

import numpy as np

def log_loss(y_true, y_pred):
    epsilon = 1e-15  # կայունության համար
    y_pred = np.clip(y_pred, epsilon, 1 - epsilon)
    return -np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))