Qual é a fórmula do gradiente para MSE em relação aos pesos?

Função de perda MSE (Erro Quadrático Médio) para um exemplo:

[ L = \frac{1}{2}(y - \hat{y})^2 ]

onde ( y ) é o valor verdadeiro, ( \hat{y} ) é a previsão do modelo.

Se ( \hat{y} = \sum_i w_i x_i ), então o gradiente em relação ao peso ( w_j ) é calculado como:

[ \frac{\partial L}{\partial w_j} = (\hat{y} - y) \cdot x_j ]

Ou seja, o erro (diferença entre a previsão e o valor verdadeiro) é multiplicado pela variável de entrada correspondente.

Essa expressão é usada no descenso do gradiente para atualizar os pesos:

w_j := w_j - \eta \cdot \frac{\partial L}{\partial w_j}

onde ( \eta ) é a taxa de aprendizagem.