Кадом функсионалӣ дар омӯзиши регрессияи логистикӣ оптимизатсия мешавад?

Дар вақти омӯзиши логистикӣ, функсияи талафот оптималӣ мешавад, одатан функсияи талафоти логарифмикӣ (log loss ё cross-entropy). Ин функсия фарқиятро байни эҳтимолиятҳои пешгӯишаванда барои тааллуқ ба синфҳо ва тамғакоғазҳои воқеӣ меомӯзад. Ҳадафи омӯзиш кам кардани ҷамъшавии ин талафотҳо дар ҳама намунаҳои омӯзишӣ мебошад, ки ба ёфтани параметрҳои оптималии модели (вазнҳо) оварда мерасонад.

Масалан, функсияи талафоти барои логистикии бинарӣ:

[ L(\theta) = - \frac{1}{m} \sum_{i=1}^m \left[y^{(i)} \ log(h_\theta(x^{(i)})) + (1 - y^{(i)}) \ log(1 - h_\theta(x^{(i)}))\right] ]

ки дар он:

• (h_\theta(x)) эҳтимолияти пешгӯишаванда,
• (y^{(i)}) тамғаи воқеӣ,
• (m) шумораи намунаҳо.

Оптимизатсия одатан бо истифода аз пастшавии градиент ё вариантҳои он анҷом дода мешавад.