Na co je potřeba učící rychlost a za co je odpovědná?

Učící rychlost (learning rate) je hyperparametr v algoritmech strojového učení, zejména v metodách optimalizace, jako je gradientní sestup. Určuje, jak moc se aktualizují parametry modelu při každém kroku učení.

Pokud je učící rychlost příliš velká, může model "přeskočit" minimum funkce chyby a nezkonvergovat. Pokud je příliš malá, bude učení velmi pomalé a může uvíznout v lokálních minimech.

Příklad: při aktualizaci vah neuronové sítě

weights = weights - learning_rate * gradient

Zde řídí learning_rate velikost kroku směrem ke snížení chyby. Správný výběr učící rychlosti je důležitý pro efektivní a stabilní trénink modelu.