Proč pro logistickou regresi nemáme uzavřenou formu řešení?

Pro logistickou regresi není k dispozici uzavřené řešení, protože funkce věrohodnosti, kterou maximalizujeme, je nelineární a nemá analytický výraz pro parametry modelu. Na rozdíl od lineární regrese, kde lze parametry získat řešením soustavy lineárních rovnic (například metodou nejmenších čtverců), u logistické regrese se používá sigmoidní funkce, což způsobuje, že rovnice pro maximalizaci věrohodnosti jsou nelineární.

Proto jsou parametry modelu nalezeny pomocí numerických metod optimalizace, jako je gradientní sestup, Newtonova metoda nebo kvazi-Newtonovy metody. Tyto metody se iterativně přibližují k optimálnímu řešení, protože přímý analytický výraz pro váhy neexistuje.