O que é uma camada de gargalo e para que é usada?

Camada bottleneck é uma camada numa rede neural, geralmente com um menor número de neurônios em comparação com as camadas anteriores e posteriores. Sua principal tarefa é comprimir a informação, destacar as características mais importantes e reduzir a dimensionalidade dos dados.

No contexto de redes neurais convolucionais (CNN), as camadas bottleneck são frequentemente usadas para:

• Reduzir a carga computacional ao diminuir o número de parâmetros.
• Melhorar a capacidade de generalização do modelo, evitando o sobreajuste.
• Destacar uma representação compacta das características, o que é útil para as camadas seguintes.

Exemplo: na arquitetura ResNet, as camadas bottleneck consistem numa sequência de convoluções 1x1, 3x3 e novamente 1x1, onde as primeiras e últimas convoluções 1x1 reduzem e depois restauram a dimensionalidade das características, enquanto a camada 3x3 processa a representação comprimida.