Riyaziyyat baxımından gradient nədir?

Gradient — bu vektor, funksiyanın bütün dəyişənləri üzrə qismən törəmələrindən ibarətdir. Riyaziyyatca, əgər çox dəyişənli funksiya (f(x_1, x_2, ..., x_n)) mövcuddursa, onda gradient (\nabla f) aşağıdakı vektordur:

[ \nabla f = \left( \frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, ..., \frac{\partial f}{\partial x_n} \right) ]

Gradient funksiyanın ən böyük artım istiqamətini göstərir və onun uzunluğu bu istiqamətdə funksiyanın dəyişmə sürətini göstərir.

Maşın öyrənməsində, gradient itki funksiyasını optimallaşdırmaq üçün istifadə olunur — məsələn, gradient enişində, biz gradientin əks istiqamətində hərəkət edirik ki, itki funksiyasını minimallaşdıraq.

Misal: (f(x, y) = x^2 + y^2) funksiyası üçün, gradient (\nabla f = (2x, 2y)) olacaq. Nöqtədə (1,1), gradient (2,2) olur və funksiyanın ən böyük artım istiqamətini göstərir.