Защо няма затворена форма на решение за логистичната регресия?

За логистичната регресия няма затворена форма на решение, тъй като функцията на вероятността, която максимизираме, е нелинейна и няма аналитично изразяване за параметрите на модела. За разлика от линейната регресия, където параметрите могат да бъдат получени чрез решаване на система от линейни уравнения (например, метода на най-малките квадрати), при логистичната регресия се използва сигмоидална функция, което прави уравненията за максимизиране на вероятността нелинейни.

Затова параметрите на модела се намират с помощта на числови методи за оптимизация, като градиентен спуск, метода на Нютон или квазинютонови методи. Тези методи итеративно се приближават към оптималното решение, тъй като няма директно аналитично изразяване за теглата.