Kas ir ShuffleNet un kāpēc tur ir channel shuffle?

ShuffleNet ir viegls un efektīvs konvolūcijas neironu tīkla arhitektūra, kas izstrādāta mobilajām un iebūvētajām ierīcēm ar ierobežotiem aprēķinu resursiem.

ShuffleNet galvenā ideja ir izmantot grupu konvolūcijas, lai samazinātu aprēķinu skaitu un parametrus, vienlaikus saglabājot labu veiktspēju.

Problēma ar grupu konvolūcijām ir tā, ka tās ierobežo informācijas apmaiņu starp kanāliem, jo katra grupa tiek apstrādāta atsevišķi.

Lai atrisinātu šo problēmu, ShuffleNet izmanto channel shuffle operāciju — kanālu permutāciju starp grupām, kas ļauj brīvi pārvietoties informācijai starp tām nākamajos slāņos.

Vienkārši sakot, channel shuffle sajauc kanālus tā, lai dažādu grupu izejas tiktu sajauktas, uzlabojot tīkla reprezentāciju un efektivitāti.

Tas palīdz saglabāt zemu aprēķinu sarežģītību, vienlaikus uzlabojot raksturlielumu kvalitāti, kas ir svarīgi mobilajām lietojumprogrammām.

Channel shuffle procesu var aptuveni attēlot šādi:

1. Kanālu sadalīšana grupās.
2. Kanālu transponēšana vai sajaukšana starp grupām.
3. Viss atkal apvienots vienā tensorā.

Tādējādi ShuffleNet sasniedz līdzsvaru starp ātrumu un precizitāti, efektīvi izmantojot grupu konvolūcijas un channel shuffle operāciju.