Waarom wordt in neurale netwerken convolutie met een 1x1-kern gebruikt?

De 1x1 convolutie in neurale netwerken wordt voor verschillende doeleinden gebruikt:

• Verandering van het aantal kanalen (diepte): 1x1 convolutie maakt het mogelijk om het aantal kanalen effectief te verminderen of te vergroten, zonder de ruimtelijke afmetingen van de afbeelding te beïnvloeden.
• Invoering van niet-lineariteit en kanaalmenging: na de 1x1 convolutie wordt meestal een activatie toegepast, wat het model helpt om complexere representaties te leren.
• Optimalisatie van berekeningen: 1x1 convoluties worden vaak gebruikt in architecturen zoals ResNet of Inception om de rekenbelasting te verminderen, door zwaardere convoluties te vervangen.

Voorbeeld: als je een tensor hebt van 28x28x256, geeft het toepassen van een 1x1 convolutie met 64 filters een output van 28x28x64, wat de kenmerken effectief reduceert.

Dus, 1x1 convolutie is een hulpmiddel om de dimensionaliteit te beheren en de uitdrukkingskracht van het model te vergroten zonder de ruimtelijke kenmerken van de gegevens te veranderen.