Mis on depthwise separable convolution ja kus seda kasutatakse (MobileNet)?

Sügavus jaotatud konvolutsioon on konvolutsiooni tüüp, mis jagab tavalise konvolutsiooni kaheks eraldi toiminguks:

1. Sügavuskonvolutsioon — iga sisendkanali (sügavuse) jaoks rakendatakse eraldi filtrit.
2. Punktkonvolutsioon — konvolutsioon 1x1 keskusega, mis ühendab sügavuskihtide tulemused ja loob uusi tunnuseid.

See lähenemine vähendab oluliselt parameetrite arvu ja arvutuslikku keerukust võrreldes tavalise konvolutsiooniga, säilitades samal ajal mudeli kvaliteedi.

MobileNetis kasutatakse sügavusjaotatud konvolutsiooni kergete ja tõhusate mudelite ehitamiseks, mis sobivad mobiil- ja sisseehitatud seadmetele piiratud ressurssidega.

Näide: kui tavaline konvolutsioon 3x3 keskusega ja N sisend- ning M väljundkanaliga nõuab 33NM parameetrit, siis sügavusjaotatud konvolutsioon nõuab 33N (sügavus) + 11NM (punkt), mis on palju vähem.