Proč se v neuronových sítích používá konvoluce s jádrem 1x1?

Konvoluce s jádrem 1x1 v neuronových sítích se používá k několika účelům:

• Změna počtu kanálů (hloubky): Konvoluce 1x1 umožňuje efektivně snižovat nebo zvyšovat počet kanálů, aniž by ovlivnila prostorové rozměry obrázku.
• Zavedení nelinearity a míchání kanálů: po konvoluci 1x1 se obvykle aplikuje aktivace, což pomáhá modelu učit se složitější reprezentace.
• Optimalizace výpočtů: konvoluce 1x1 se často používají v architekturách jako ResNet nebo Inception ke snížení výpočetní zátěže, nahrazením těžších konvolucí.

Příklad: pokud máte tensor o rozměrech 28x28x256, použití konvoluce 1x1 s 64 filtry dá výstup 28x28x64, což efektivně snižuje rozměrnost rysů.

Tímto způsobem je konvoluce 1x1 nástrojem pro řízení rozměrnosti a zvýšení výrazu modelu bez změny prostorových vlastností dat.