Mis on gradient matemaatilisest vaatenurgast?

Gradient on vektor, mis koosneb funktsiooni osalistest tuletistest kõigi selle muutujate suhtes. Matemaatiliselt, kui eksisteerib mitme muutujaga funktsioon (f(x_1, x_2, ..., x_n)), siis on gradient (\nabla f) vektor:

[ \nabla f = \left( \frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, ..., \frac{\partial f}{\partial x_n} \right) ]

Gradient näitab funktsiooni suurima kasvamise suunda ning selle pikkus näitab funktsiooni muutumise kiirust selles suunas.

Masinõppes kasutatakse gradienti optimeerimiseks — näiteks gradientlangusel, kus me liigume vastupidises suunas gradientist, et minimeerida kaotuse funktsiooni.

Näide: funktsiooni (f(x, y) = x^2 + y^2) puhul on gradient (\nabla f = (2x, 2y)). Punktis (1,1) on gradient (2,2), mis näitab suurima kasvu suunda funktsioonis.