Ի՞նչ ֆունկցիոնալություն է օպտիմալացվում լոգիստիկ ռեգրեսիայի ուսուցման ժամանակ։

Լոգիստիկ ռեգրեսիայի ուսուցման ժամանակ սովորաբար օպտիմալացվում է կորուստների ֆունկցիան, հիմնականում՝ լոգարիթմական կորուստը (log loss կամ խաչ-энтրոպիա): Այս ֆունկցիան չափում է կանխատեսված հավանականությունների և իրական նշանների միջև տարբերությունը: Ուսուցման նպատակն է նվազեցնել այս կորուստների գումարը բոլոր ուսուցողական օրինակների համար, ինչը հանգեցնում է մոդելի օպտիմալ պարամետրերի (շարժականների) գտնելուն:

Բինար լոգիստիկ ռեգրեսիայի համար օրինակային կորուստների ֆունկցիա:

[ L(\theta) = - \frac{1}{m} \sum_{i=1}^m \left[y^{(i)} \ log(h_\theta(x^{(i)})) + (1 - y^{(i)}) \ log(1 - h_\theta(x^{(i)}))\right] ]

որտեղ՝

• (h_\theta(x)) կանխատեսված հավանականությունն է,
• (y^{(i)}) իրական նշանն է,
• (m) օրինակների թիվն է:

Օպտիմալացումը սովորաբար կատարվում է գրադիենտային նվազում կամ դրա տարբերակներով։