Logistik regressiya uchun yo'qotish funktsiyasi nima?

Logistik regressiya uchun yo‘qotish funktsiyasi ikkilamchi kross-entropy (log loss). U bashorat qilingan ehtimollar va haqiqiy sinf belgilari orasidagi farqni o‘lchaydi.

Yoki y (0 yoki 1) belgilangan ob’ekt uchun va bashorat qilingan ehtimol p (sinf 1 ehtimoli), yo‘qotish funktsiyasi quyidagicha yoziladi:

[ L = - \left( y \cdot \log(p) + (1 - y) \cdot \log(1 - p) \right) ]

Ushbu funktsiya modelni noto‘g‘ri bashoratlar uchun jazolaydi, ayniqsa model noto‘g‘ri javobga ishonch bilan qaraganda.

Python misoli numpy bilan:

import numpy as np

def log_loss(y_true, y_pred):
    epsilon = 1e-15  # barqarorlik uchun
    y_pred = np.clip(y_pred, epsilon, 1 - epsilon)
    return -np.mean(y_true * np.log(y_pred) + (1 - y_true) * np.log(1 - y_pred))