Sobes.tech
Middle — Senior

Zašto za logističku regresiju nema zatvorene forme rešenja?

sobes.tech АИ

Одговор од АИ

Za logističku regresiju ne postoji zatvoreno rešenje, jer funkcija verovatnoće koju maksimiziramo je nelinearna i nema analitički izraz za parametre modela. Za razliku od linearne regresije, gde se parametri mogu dobiti rešavanjem sistema linearnih jednačina (npr. metod najmanjih kvadrata), u logističkoj regresiji koristi se sigmoidalna funkcija, zbog čega jednačine za maksimizaciju verovatnoće postaju nelinearne.

Zato se parametri modela pronalaze pomoću numeričkih metoda optimizacije, kao što su gradijentni spust, Newtonova metoda ili kvazi-Newtonove metode. Ove metode iterativno približavaju rešenje, jer ne postoji direktan analitički izraz za težine.