De ce nu există o formă închisă pentru soluția regresiei logistice?

Pentru regresia logistică, nu există o soluție în formă închisă, deoarece funcția de verosimilitate pe care o maximizăm este neliniară și nu are o expresie analitică pentru parametrii modelului. Spre deosebire de regresia liniară, unde parametrii pot fi obținuți rezolvând un sistem de ecuații liniare (de exemplu, metoda celor mai mici pătrate), în regresia logistică se utilizează o funcție sigmoidă, ceea ce face ca ecuațiile pentru maximizarea verosimilității să fie neliniare.

Prin urmare, parametrii modelului sunt găsiți folosind metode numerice de optimizare, cum ar fi gradient descent, metoda lui Newton sau metode quasi-Newton. Aceste metode se apropie iterativ de soluția optimă, deoarece nu există o expresie analitică directă pentru greutăți.