Mi az a depthwise separable convolution és hol alkalmazzák (MobileNet)?

A mélység szerinti szeparált konvolúció egy olyan típusú konvolúció, amely a normál konvolúciót két külön műveletre bontja:

1. Mélység szerinti konvolúció — minden bemeneti csatornára (mélységre) külön filtert alkalmaz.
2. Pontszerű konvolúció — 1x1-es maggal végzett konvolúció, amely összekapcsolja a mélység szintjének eredményeit, és új jellemzőket hoz létre.

Ez a megközelítés jelentősen csökkenti a paraméterek számát és a számítási összetettséget a normál konvolúcióhoz képest, miközben megőrzi a modell minőségét.

A MobileNet-ben a mélység szerinti szeparált konvolúciót arra használják, hogy könnyű és hatékony modelleket építsenek, amelyek alkalmasak mobil és beágyazott eszközökre, korlátozott erőforrásokkal.

Példa: ha egy normál konvolúció 3x3 maggal és N bemeneti, M kimeneti csatornával 33NM paramétert igényel, akkor a mélység szerinti szeparált konvolúció 33N (mélység) + 11NM (pont) paramétert igényel, ami jelentősen kevesebb.