Czym różni się MobileNet v2 od v1 (odwrócone residuale)?

MobileNet v2 różni się od v1 głównie wprowadzeniem koncepcji "odwróconych reszt" z " liniowymi wąskimi gardłami ".

W MobileNet v1 używano zwykłych połączeń resztkowych i głęboko rozdzielnych konwolucji, co już zmniejszało złożoność obliczeniową. W MobileNet v2 architektura jest tak zaprojektowana, że:

• Główny blok to "odwrócony blok resztkowy": najpierw następuje rozszerzenie liczby kanałów za pomocą konwolucji 1x1 (konwolucja punktowa), następnie konwolucja głęboka, a na końcu powrót do mniejszej liczby kanałów.
• Połączenia resztkowe są stosowane nie do rozszerzonej przestrzeni cech, lecz do przestrzeni skompresowanej (wąskiej), co zmniejsza liczbę parametrów i zwiększa wydajność.
• Używa się liniowego wąskiego gardła (ostatnia warstwa bloku nie ma aktywacji ReLU), aby uniknąć utraty informacji podczas kompresji cech.

To pozwala MobileNet v2 być bardziej wydajnym i dokładniejszym przy tych samych lub mniejszych zasobach obliczeniowych w porównaniu z v1.

Przykład struktury bloku MobileNet v2 (uproszczony):

# Pseudokod
wejście -> konwolucja 1x1 (rozszerzenie, ReLU6) -> konwolucja głęboka (ReLU6) -> konwolucja 1x1 (projekcja, liniowa) -> dodanie resztkowe (jeśli rozmiary pasują)