Logistik regressiya mashg'ulotida qaysi funksionallik optimallashtiriladi?

Logistik regressiyada o'qitishda odatda log loss yoki kross-entropy funksiyasi optimallashtiriladi. Bu funksiya tasvirlangan ehtimolliklar va haqiqiy belgilarning farqini o'lchaydi. O'qitish maqsadi, barcha o'quv misollari bo'yicha bu yo'qotishlarning yig'indisini minimallashtirish, bu esa modelning (og'irliklarning) optimal parametrlarini topishga olib keladi.

Ikki sinfli logistika regressiyasi uchun misol yo'qotish funksiyasi:

[ L(\theta) = - \frac{1}{m} \sum_{i=1}^m \left[y^{(i)} \log(h_\theta(x^{(i)})) + (1 - y^{(i)}) \ log(1 - h_\theta(x^{(i)}))\right] ]

bu yerda:

• (h_\theta(x)) bashorat qilingan ehtimollik,
• (y^{(i)}) haqiqiy belgi,
• (m) misollar soni.

Optimizatsiya odatda gradient tushirish yoki uning variantlari yordamida amalga oshiriladi.