Middle
BatchNorm'da hangi öğrenilebilir parametreler vardır ve bunlar ne işe yarar?
sobes.tech yapay zeka
AI'dan gelen yanıt
BatchNorm'da iki öğrenilebilir parametre vardır:
-
Gamma (γ) — normalleştirilmiş verilere çarpılan ölçek katsayısıdır. Modelin normalleştirmeden sonra aktivasyonların genliğini ayarlamasına olanak tanır.
-
Beta (β) — normalleştirilmiş verilere ölçeklendirmeden sonra eklenen kaymadır. Modelin aktivasyon dağılımını kaydırmasına olanak tanır.
Bu parametreler, normalleştirmeden sonra (verileri sıfır ortalama ve birim varyans ile standartlaştırır) modelin aktivasyonların dağılımını geri yüklemesine veya uyarlamasına izin vermek için gereklidir, bu da eğitim ve ağın ifade gücünü artırmak için önemlidir.