Ağırlıqlar üçün MSE-nin gradient formulu nədir?

MSE (Orta Kvadrat Xato) yo'qotish funktsiyasi uchun bir misol:

[ L = \frac{1}{2}(y - \hat{y})^2 ]

bu yerda ( y ) haqiqiy qiymat, ( \hat{y} ) modelning bashorati.

Agar ( \hat{y} = \sum_i w_i x_i ), unda ( w_j ) og'irligi bo'yicha gradient quyidagicha hisoblanadi:

[ \frac{\partial L}{\partial w_j} = (\hat{y} - y) \cdot x_j ]

Ya'ni, xato (bashorat va haqiqiy qiymat o'rtasidagi farq) mos keladigan kirish o'zgaruvchisi bilan ko'paytiriladi.

Ushbu ifoda gradient tushirishda og'irliklarni yangilash uchun ishlatiladi:

w_j := w_j - \eta \cdot \frac{\partial L}{\partial w_j}

bu yerda ( \eta ) o'qitish tezligi.