Окуу ылдамдыгы эмне үчүн керек жана ал эмне үчүн жооптуу?

Окуу ылдамдыгы (learning rate) — бул машиналык үйрөнүү алгоритмдеринде гиперпараметр, өзгөчө оптимизация ыкмалары, мисалы, градиентдик түшүүдө. Ал моделдин параметрлери ар бир үйрөнүү кадамында канчалык күчтүү жаңыртыларын аныктайт.

Эгер окуу ылдамдыгы өтө чоң болсо, модель катанын функциясынын минимумун "өткөрүп" кетиши мүмкүн жана конвергенцияга жетпейт. Эгер өтө кичинекей болсо, үйрөнүү өтө жай болот жана жергиликтүү минимумдарда кала алат.

Мисал: нейрондук тармактын салмактарын жаңыртуу учурунда

weights = weights - learning_rate * gradient

Бул жерде, learning_rate катанын азайыш багытында кадамдын өлчөмүн көзөмөлдөйт. Туура тандалган окуу ылдамдыгы моделдин натыйжалуу жана туруктуу үйрөнүшү үчүн маанилүү.