È possibile trovare i parametri della regressione lineare analiticamente, anziché tramite discesa del gradiente?

Sì, i parametri della regressione lineare possono essere trovati analiticamente usando il metodo dei minimi quadrati. Per il modello ( y = X\beta + \varepsilon ), dove (X) è la matrice delle caratteristiche, (y) è il vettore dei valori target, i parametri (\beta) si trovano risolvendo l'equazione:

[ \beta = (X^T X)^{-1} X^T y ]

Questo metodo fornisce una soluzione precisa quando la matrice (X^T X) è invertibile. La discesa del gradiente viene utilizzata quando la dimensione dei dati è molto grande o la matrice non è invertibile, o per modelli più complessi.