Čo je depthwise separable convolution a kde sa používa (MobileNet)?

Hlboko oddelená konvolúcia je typ konvolúcie, ktorá rozdeľuje bežnú konvolúciu na dve samostatné operácie:

1. Hlboká konvolúcia — na každý vstupný kanál (hĺbku) sa aplikuje samostatný filter.
2. Bodová konvolúcia — konvolúcia s jadrom 1x1, ktorá spája výsledky z vrstvy hĺbky a vytvára nové znaky.

Tento prístup výrazne znižuje počet parametrov a výpočtovú zložitosť v porovnaní s bežnou konvolúciou, pričom zachováva kvalitu modelu.

V MobileNet sa hlboká oddelená konvolúcia používa na vytváranie ľahkých a efektívnych modelov vhodných pre mobilné a zabudované zariadenia s obmedzenými zdrojmi.

Príklad: ak bežná konvolúcia s jadrom 3x3 a N vstupnými a M výstupnými kanálmi vyžaduje 33NM parametrov, potom hlboká oddelená konvolúcia vyžaduje 33N (hĺbka) + 11NM (bodová), čo je podstatne menej.