Kas ir gradients no matemātiskā viedokļa?

Gradients ir vektors, kas sastāv no funkcijas daļējām atvasēm pret visām tās mainīgajām. Matemātiski, ja pastāv daudzmainīga funkcija (f(x_1, x_2, ..., x_n)), tad gradients (\nabla f) ir vektors:

[ \nabla f = \left( \frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, ..., \frac{\partial f}{\partial x_n} \right) ]

Gradients norāda uz funkcijas lielākā pieauguma virzienu, un tā garums rāda funkcijas izmaiņas ātrumu šajā virzienā.

Mašīnmācībā gradients tiek izmantots optimizācijai — piemēram, gradienta krituma laikā, kad mēs kustamies pretējos virzienos gradientam, lai minimizētu zaudējumu funkciju.

Piemērs: funkcijai (f(x, y) = x^2 + y^2), gradients būs (\nabla f = (2x, 2y)). Punktā (1,1), gradients ir (2,2), norādot uz lielākā pieauguma virzienu funkcijai.