Kādi ir problēmas, ja partijas normalizācija atjauno statistiku validācijas laikā?

Ja batch normalization atjaunina statistiku (vidējo un dispersiju) validācijas laikā, tas novedīs pie nepareizas normalizācijas parametru novērtēšanas uz validācijas datiem. Rezultātā:

• Modelis izmantos statistiku, kas ir atkarīga no pašreizējās validācijas partijas, kas pārkāpj neatkarības principu no validācijas kopas.
• Validācijas veiktspēja var kļūt nestabila un neparādīt patieso modeļa vispārējo spēju.
• Tas var novest pie pārapmācības, jo modelis pielāgojas konkrētām validācijas partijām.

Tādēļ, validācijas laikā parasti fiksē uzkrāto statistiku no apmācības un to neatjauno, lai nodrošinātu pareizu modeļa kvalitātes novērtējumu.