Kuo skiriasi MobileNet v2 nuo v1 (inverted residuals)?

MobileNet v2 skiriasi nuo v1 daugiausia dėl "invertuotų rezidualų" ir "linijinių siaurų" koncepcijų įvedimo.

V MobileNet v1 buvo naudojami įprasti rezidualūs ryšiai ir gilios atskirtinės konvolucijos, kas jau sumažino skaičiavimo sudėtingumą. MobileNet v2 architektūra yra sukurta taip, kad:

• Pagrindinis blokas yra "invertuotas rezidualinis blokas": pirmiausia išplečiama kanalų skaičius naudojant 1x1 konvoluciją (pointwise convolution), tada taikoma gilios konvolucijos, ir pabaigoje vėl suspaudžiama iki mažesnio kanalų skaičiaus.
• Rezidualūs ryšiai taikomi ne išplėstajai požymių erdvei, o suspaustai (siaurai) erdvei, kas sumažina parametrų skaičių ir padidina efektyvumą.
• Naudojamas linijinis siauras (paskutinis bloko sluoksnis neturi ReLU aktyvacijos), siekiant išvengti informacijos praradimo požymių suspaudimo metu.

Tai leidžia MobileNet v2 būti efektyvesniam ir tikslesniam su tais pačiais ar mažesniais skaičiavimo ištekliais, palyginti su v1.

Pavyzdinė bloko struktūra (supaprastinta):

# Pseudokodas
įėjimas -> 1x1 konvolucija (išplėtimas, ReLU6) -> gilios konvolucija (ReLU6) -> 1x1 konvolucija (projekcija, linijinė) -> rezidualinė suma (jei matmenys sutampa)