Pourquoi utilise-t-on la convolution avec un noyau 1x1 dans les réseaux neuronaux?

La convolution 1x1 dans les réseaux neuronaux est utilisée à plusieurs fins :

• Changement du nombre de canaux (profondeur) : La convolution 1x1 permet de réduire ou d’augmenter efficacement le nombre de canaux sans affecter les dimensions spatiales de l’image.
• Introduction de non-linéarité et mélange des canaux : après la convolution 1x1, une activation est généralement appliquée, ce qui aide le modèle à apprendre des représentations plus complexes.
• Optimisation des calculs : les convolutions 1x1 sont souvent utilisées dans des architectures comme ResNet ou Inception pour réduire la charge de calcul, en remplaçant des convolutions plus lourdes.

Exemple : si vous avez un tenseur de taille 28x28x256, appliquer une convolution 1x1 avec 64 filtres donnera une sortie de 28x28x64, réduisant efficacement la dimensionnalité des caractéristiques.

Ainsi, la convolution 1x1 est un outil pour gérer la dimensionnalité et augmenter l’expressivité du modèle sans changer les caractéristiques spatiales des données.