Ce este convoluția separabilă în profunzime și unde este aplicată (MobileNet)?

Convoluția separabilă în adâncime este un tip de convoluție care împarte convoluția normală în două operațiuni separate:

1. Convoluție în adâncime — se aplică un filtru separat fiecărui canal de intrare (adâncime) individual.
2. Convoluție punct cu punct — convoluție cu un nucleu 1x1, care combină rezultatele din stratul în adâncime, creând noi caracteristici.

Această abordare reduce semnificativ numărul de parametri și complexitatea computațională comparativ cu convoluția normală, păstrând în același timp calitatea modelului.

În MobileNet, convoluția separabilă în adâncime este folosită pentru a construi modele ușoare și eficiente, potrivite pentru dispozitive mobile și embeded cu resurse limitate.

Exemplu: dacă o convoluție normală cu nucleu 3x3 și N canale de intrare și M canale de ieșire necesită 33NM parametri, atunci convoluția separabilă în adâncime necesită 33N (adâncime) + 11NM (punc), ceea ce este mult mai mic.