Perché non esiste una forma chiusa di soluzione per la regressione logistica?

Per la regressione logistica non esiste una soluzione in forma chiusa, perché la funzione di verosimiglianza che massimizamo è non lineare e non ha un'espressione analitica per i parametri del modello. A differenza della regressione lineare, dove i parametri possono essere ottenuti risolvendo un sistema di equazioni lineari (ad esempio, metodo dei minimi quadrati), nella regressione logistica si utilizza una funzione sigmoide, che rende le equazioni per massimizzare la verosimiglianza non lineari.

Pertanto, i parametri del modello vengono trovati mediante metodi numerici di ottimizzazione, come la discesa del gradiente, il metodo di Newton o metodi quasi-Newton. Questi metodi si avvicinano iterativamente alla soluzione ottimale, poiché non esiste un'espressione analitica diretta per i pesi.