Защо в невронните мрежи се използва свързка с ядро 1x1?

Конволюцията с ядро 1x1 в невронните мрежи се използва за няколко цели:

• Промяна на броя на каналите (дълбочина): 1x1 конволюцията позволява ефективно намаляване или увеличаване на броя на каналите, без да влияе на пространствените размери на изображението.
• Въвеждане на нелинейност и смесване на каналите: след 1x1 конволюцията обикновено се прилага активация, което помага на модела да учи по-сложни представяния.
• Оптимизация на изчисленията: 1x1 конволюциите често се използват в архитектури като ResNet или Inception за намаляване на изчислителната тежест, заменяйки по-тежки конволюции.

Пример: ако имате тензор с размер 28x28x256, прилагането на 1x1 конволюция с 64 филтъра ще даде изход 28x28x64, ефективно намалявайки размерността на характеристиките.

По този начин, 1x1 конволюцията е инструмент за управление на размерността и увеличаване на изразителната способност на модела без промяна на пространствените характеристики на данните.