Quais camadas em redes neurais se comportam de forma diferente durante o treino e a inferência (Dropout, BatchNorm, etc.)?

Algumas camadas de redes neurais comportam-se de maneira diferente nas fases de treino (train) e inferência (inference):

• Dropout: durante o treino, desliga aleatoriamente parte dos neurônios para evitar overfitting, e na inferência, todos os neurônios estão ativos, ajustando as saídas para compensar.
• Normalização por lote (BatchNorm): durante o treino, normaliza as entradas da camada com base no lote atual, atualizando as estatísticas (média e variância), e na inferência, usa as estatísticas acumuladas para maior estabilidade.

Dessa forma, essas camadas adaptam seu comportamento para garantir um melhor treinamento e funcionamento correto do modelo na previsão.