Kam reikalinga mokymosi greitis ir nuo ko jis priklauso?

Mokymosi greitis (learning rate) yra hiperparinktis mašininio mokymosi algoritmuose, ypač optimizavimo metodų, tokių kaip gradientinis nusileidimas, atveju. Jis nustato, kaip stipriai modelio parametrai atnaujinami kiekvieno mokymosi žingsnio metu.

Jei mokymosi greitis yra per didelis, modelis gali "peršokti" klaidos funkcijos minimumą ir nesusitarti. Jei per mažas, mokymasis bus labai lėtas ir gali įstrigti vietiniuose minimumuose.

Pavyzdys: atnaujinant neuroninio tinklo svorius

weights = weights - learning_rate * gradient

Čia, learning_rate kontroliuoja žingsnio dydį klaidos mažinimo kryptimi. Tinkamas mokymosi greičio pasirinkimas yra svarbus efektyviam ir stabiliai modeliui mokyti.