Kokius konvoliucijų tipus žinote (standartinė, depthwise, separable, dilated, transposed, grouped)? Idėjos, privalumai ir trūkumai kiekvieno.

Konvoliuciniai neuroniniai tinklai (CNN) turi keletą konvoliucijų tipų, iš kurių kiekvienas turi savo ypatybes, privalumus ir trūkumus:

1. Standartinė konvoliucija (Standard Convolution)

   • Taikoma filtrų rinkinys visiems įėjimo kanalams vienu metu:
   • Privalumai: paprasta ir universali, gerai išnagrinėta:
   • Trūkumai: didelės skaičiavimo sudėtingumas ir parametrų kiekis:

2. Depthwise Convolution (gili konvoliucija)

   • Kiekvienas filtras taikomas atskirai vienam įėjimo kanalui:
   • Privalumai: žymiai sumažina parametrų ir skaičiavimų kiekį:
   • Trūkumai: nejungia informacijos tarp kanalų, todėl dažnai naudojama kartu su pointwise konvoliucija:

3. Separable Convolution (atskiriama konvoliucija)

   • Sudaryta iš depthwise konvoliucijos, po kurios seka pointwise (1x1) konvoliucija:
   • Privalumai: efektyvi parametrais ir skaičiavimais, išlaiko kokybę:
   • Trūkumai: gali būti mažiau išraiškinga nei standartinė konvoliucija:

4. Dilated Convolution (išplėsta konvoliucija)

   • Naudoja išplėstinius filtrus su tarpais (dilation), didindama suvokimo lauką be parametrų didinimo:
   • Privalumai: leidžia fiksuoti kontekstą dideliuose masteliuose:
   • Trūkumai: gali sukelti "skylėtas" suvokimas ir artefaktus:

5. Transposed Convolution (perkelta konvoliucija arba dekonvoliucija)

   • Naudojama erdviniam raiškos didinimui:
   • Privalumai: leidžia mokyti parametrus didinant dydį:
   • Trūkumai: gali sukelti artefaktus (pavyzdžiui, tikrinimo lentelės):

6. Grouped Convolution (grupuota konvoliucija)

   • Įėjimo kanalai yra suskirstyti į grupes, ir konvoliucija taikoma kiekvienai grupei atskirai:
   • Privalumai: sumažina parametrų ir skaičiavimų kiekį, leidžia kurti gilesnes tinklo struktūras (pavyzdžiui, ResNeXt):
   • Trūkumai: riboja sąveiką tarp kanalų:

Kiekvieno konvoliucijos tipo pasirinkimas priklauso nuo užduoties, našumo ir tikslumo reikalavimų. Pavyzdžiui, separable ir depthwise konvoliucijos plačiai naudojamos mobiliuose ir įterptuose sistemose resursų optimizavimui.