Kokios problemos kyla, jei partijų normalizavimas atnaujina statistiką validacijos metu?

Jei batch normalization atnaujina statistiką (vidurkį ir dispersiją) validacijos metu, tai sukels neteisingą normalizacijos parametrų įvertinimą validacijos duomenyse. Dėl to:

• Modelis naudos statistiką, priklausomą nuo esamos validacijos partijos, kas pažeidžia nepriklausomybės principą.
• Validacijos našumas gali tapti nestabilus ir neatskleisti tikros modelio bendrosios gebėjimo.
• Tai gali sukelti permokymąsi, nes modelis prisitaiko prie konkrečių validacijos partijų.

Todėl, validacijos metu paprastai fiksuojamos mokymo metu sukauptos statistikos ir jų nebeatnaujina, siekiant užtikrinti teisingą modelio kokybės įvertinimą.