Kam ir nepieciešama mācīšanās ātrums un par ko tas atbild?

Mācīšanās ātrums (learning rate) ir hiperparametrs mašīnmācīšanās algoritmos, īpaši optimizācijas metodēs, piemēram, gradienta nolaišanās. Tas nosaka, cik stipri modeļa parametri tiek atjaunināti katrā mācību solī.

Ja mācīšanās ātrums ir pārāk liels, modelis var "izlaist" kļūdas funkcijas minimumu un nesasniegt konverģenci. Ja tas ir pārāk mazs, mācīšanās būs ļoti lēna un var iestrēgt vietējos minimumos.

Piemērs: atjauninot neironu tīkla svarus

weights = weights - learning_rate * gradient

Šeit, learning_rate kontrolē soļa lielumu kļūdas samazināšanas virzienā. Pareiza mācīšanās ātruma izvēle ir svarīga efektīvai un stabilai modeļa apmācībai.