Prečo pre logistickú regresiu neexistuje uzavretá forma riešenia?

Pre logistickú regresiu ne existuje uzavretá forma riešenia, pretože funkcia pravdepodobnosti, ktorú maximalizujeme, je nelineárna a nemá analytický výraz pre parametre modelu. Na rozdiel od lineárnej regresie, kde je možné parametre získať riešením systému lineárnych rovníc (napríklad metódou najmenších štvorcov), v logistickej regresii sa používa sigmoidná funkcia, čo spôsobuje, že rovnice na maximalizáciu pravdepodobnosti sú nelineárne.

Preto sú parametre modelu nájdené pomocou numerických metód optimalizácie, ako je gradientný zostup, Newtonova metóda alebo kvazi-Newtonove metódy. Tieto metódy iteratívne približujú k optimálnemu riešeniu, pretože priame analytické vyjadrenie pre váhy neexistuje.