Prečo sa v neurónových sieťach používa konvolúcia s jadrom 1x1?

Konvolúcia s jadrom 1x1 v neurónových sieťach sa používa na niekoľko účelov:

• Zmena počtu kanálov (hĺbky): Konvolúcia 1x1 umožňuje efektívne znižovať alebo zvyšovať počet kanálov, bez ovplyvnenia priestorových rozmerov obrázka.
• Vloženie nelinearity a miešanie kanálov: po konvolúcii 1x1 sa zvyčajne aplikuje aktivácia, čo pomáha modelu učiť sa zložitejšie reprezentácie.
• Optimalizácia výpočtov: konvolúcie 1x1 sa často používajú v architektúrach ako ResNet alebo Inception na zníženie výpočtovej záťaže, nahradzujúc ťažšie konvolúcie.

Príklad: ak máte tensor s rozmermi 28x28x256, použitie konvolúcie 1x1 s 64 filtrami dá výstup 28x28x64, čo efektívne znižuje rozmernosť rysov.

Týmto spôsobom je konvolúcia 1x1 nástrojom na riadenie rozmernosti a zvýšenie výrazu modelu bez zmeny priestorových vlastností dát.