Каква е разликата между MobileNet v2 и v1 (обърнати остатъци)?

MobileNet v2 се различава от v1 главно чрез въвеждането на концепцията за "обърнати остатъци" с "линейни тесни места".

В MobileNet v1 се използваха обикновени остатъчни връзки и дълбоко разделими свързвания, което вече намаляваше изчислителната сложност. В MobileNet v2 архитектурата е проектирана така, че:

• Основният блок е "обърнат остатъчен блок": първо се разширява броят на каналите с помощта на 1x1 свързване (pointwise convolution), след това се прилага дълбоко свързване и накрая се свива обратно към по-малък брой канали.
• Остатъчните връзки се прилагат не към разширеното пространство на признаците, а към компресираното (тясно) пространство, което намалява броя на параметрите и увеличава ефективността.
• Използва се линейно тесно място (последният слой на блока няма ReLU активация), за да се избегне загуба на информация при компресията на признаците.

Това позволява на MobileNet v2 да бъде по-ефективен и по-точен при същите или по-малко изчислителни ресурси в сравнение с v1.

Примерна структура на блока MobileNet v2 (опростена):

# Псевдокод
вход -> 1x1 свързване (разширение, ReLU6) -> дълбоко свързване (ReLU6) -> 1x1 свързване (проекция, линейна) -> добавяне на остатък (ако размерите съвпадат)