Šta je ShuffleNet i zašto tamo postoji channel shuffle?

ShuffleNet je lagana i efikasna arhitektura konvolucione neuronske mreže, dizajnirana za mobilne i ugrađene uređaje sa ograničenim računarskim resursima.

Glavna ideja ShuffleNet je korišćenje grupnih konvolucija za smanjenje broja računanja i parametara, uz održavanje dobre performanse.

Problem sa grupnim konvolucijama je što ograničavaju razmenu informacija između kanala, jer se svaka grupa obrađuje odvojeno.

Da bi se rešio ovaj problem, ShuffleNet primenjuje operaciju channel shuffle — permutaciju kanala između grupa, koja omogućava slobodno kretanje informacija između njih u sledećim slojevima.

Ukratko, channel shuffle meša kanale tako da se izlazi iz različitih grupa mešaju, poboljšavajući predstavljanje i efikasnost mreže.

Ovo pomaže da se održi niska računarska složenost, ali istovremeno poboljšava kvalitet karakteristika, što je važno za mobilne aplikacije.

Proces channel shuffle se može približno predstaviti ovako:

1. Podeliti kanale na grupe.
2. Transponovati ili mešati kanale između grupa.
3. Ponovo ih spojiti u jedan tenzor.

Na ovaj način, ShuffleNet postiže ravnotežu između brzine i tačnosti efikasnim korišćenjem grupnih konvolucija i operacije channel shuffle.