Dlaczego dla regresji logistycznej nie ma zamkniętej formy rozwiązania?

Dla regresji logistycznej nie istnieje rozwiązanie w postaci zamkniętej, ponieważ funkcja wiarygodności, którą maksymalizujemy, jest nieliniowa i nie ma analitycznego wyrażenia dla parametrów modelu. W przeciwieństwie do regresji liniowej, gdzie można uzyskać parametry rozwiązując układ równań liniowych (np. metodą najmniejszych kwadratów), w regresji logistycznej używa się funkcji sigmoidalnej, co powoduje, że równania do maksymalizacji wiarygodności są nieliniowe.

Dlatego parametry modelu znajdują się za pomocą metod numerycznych optymalizacji, takich jak spadek gradientu, metoda Newtona lub metody quasi-Newtona. Metody te iteracyjnie zbliżają się do rozwiązania optymalnego, ponieważ nie istnieje bezpośrednie wyrażenie analityczne dla wag.