Matematiksel açıdan gradyan nedir?

Gradyan, tüm değişkenleriyle fonksiyonun kısmi türevlerinden oluşan bir vektördür. Matematiksel olarak, çok değişkenli bir fonksiyon (f(x_1, x_2, ..., x_n)) varsa, gradyan (\nabla f) şu vektördür:

[ \nabla f = \left( \frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, ..., \frac{\partial f}{\partial x_n} \right) ]

Gradyan, fonksiyonun en büyük artış yönünü gösterir ve uzunluğu, bu yöndeki fonksiyon değişim hızını gösterir.

Makine öğreniminde, gradyan, örneğin, kayıp fonksiyonunu minimize etmek için kullanılan gradyan inişi gibi optimizasyonlarda kullanılır; burada, gradyanın ters yönünde hareket ederek fonksiyonu azaltmaya çalışırız.

Örnek: (f(x, y) = x^2 + y^2) fonksiyonu için, gradyan (\nabla f = (2x, 2y)) olur. Nokta (1,1)'de, gradyan (2,2) olur ve fonksiyonun en büyük artış yönünü gösterir.