Kas yra depthwise separable convolution ir kur ji taikoma (MobileNet)?

Gilus skirstymas konvoliucija — tai konvoliucijos tipas, kuris padalija įprastą konvoliuciją į dvi atskiras operacijas:

1. Gilus konvoliucija — kiekvienam įvesties kanalui (giliui) taikomas atskiras filtras.
2. Taškinė konvoliucija — konvoliucija su 1x1 branduoliu, kuris sujungia giluminio sluoksnio rezultatus ir sukuria naujas savybes.

Šis požiūris žymiai sumažina parametrų skaičių ir skaičiavimo sudėtingumą, palyginti su įprasta konvoliucija, išlaikant modelio kokybę.

MobileNet, giluminio skirstymo konvoliucija naudojama kuriant lengvus ir efektyvius modelius, tinkamus mobiliesiems ir įmontuotiems įrenginiams su ribotais ištekliais.

Pavyzdys: jei įprasta konvoliucija su 3x3 branduoliu ir N įvesties bei M išvesties kanalais reikalauja 33NM parametrų, tada giluminio skirstymo konvoliucija reikalauja 33N (gili) + 11NM (taškinė), tai yra žymiai mažiau.