¿Qué problemas surgen si la normalización por lotes actualiza las estadísticas durante la validación?

Si la normalización por lotes actualiza las estadísticas (media y varianza) durante la validación, esto conducirá a una evaluación incorrecta de los parámetros de normalización en los datos de validación. Como resultado:

• El modelo utilizará estadísticas que dependen del lote de validación actual, lo que viola el principio de independencia del conjunto de validación.
• El rendimiento en la validación puede volverse inestable y no reflejar la verdadera capacidad de generalización del modelo.
• Esto puede llevar a sobreajuste, ya que el modelo se adapta a lotes específicos de validación.

Por lo tanto, durante la validación generalmente se fijan las estadísticas acumuladas del entrenamiento y no se actualizan, para garantizar una evaluación correcta de la calidad del modelo.