Middle
BatchNormda qanday o'qitiladigan parametrlar mavjud va ular nima uchun kerak?
sobes.tech AI
AIdan javob
BatchNorm'da ikki o'qitiladigan parametr mavjud:
-
Gamma (γ) — normalizatsiya qilingan ma'lumotlarga ko'paytiriladigan o'lchov koeffitsienti. Modelga normalizatsiyadan keyin aktivatsiyalar amplitudasini boshqarishga imkon beradi.
-
Beta (β) — normalizatsiya qilingan ma'lumotlarga qo'shiladigan siljish. Modelga aktivatsiyalar taqsimotini siljitishga imkon beradi.
Ushbu parametrlar, normalizatsiyadan so'ng (ma'lumotlarni o'rtacha nol va dispersiya birligi bilan standartlashtiradi) modelga aktivatsiyalar taqsimotini tiklash yoki moslashtirish imkonini beradi, agar bu o'qitish va tarmoq ifodaliqligini oshirish uchun zarur bo'lsa.