Koje vrste konvolucija poznajete (standard, depthwise, separable, dilated, transposed, grouped)? Ideje, prednosti i mane svake.

У конволуционим неуронским мрежама (CNN) постоји неколико врста конволуција, од којих свака има своје карактеристике, предности и мане:

1. Стандардна конволуција (Standard Convolution)

   • Примењује скуп филтера на све улазне канале истовремено.
   • Предности: једноставна и свеобухватна, добро истражена.
   • Манe: висока рачунарска сложеност и број параметара.

2. Depthwise конволуција (дубока конволуција)

   • Сваког филтера се примењује на један улазни канал одвојено.
   • Предности: значајно смањује број параметара и калкулација.
   • Манe: не комбинује информације између канала, због чега се често користи заједно са pointwise конволуцијом.

3. Separable конволуција (separable convolution)

   • Састоји се од depthwise конволуције, праћене pointwise (1x1) конволуцијом.
   • Предности: ефикасна у погледу параметара и калкулација, одржава квалитет.
   • Манe: може бити мање изразита од стандардне конволуције.

4. Dilated конволуција (разширена конволуција)

   • Користи филтере са размакима (dilation), повећавајући поље перцепције без повећања броја параметара.
   • Предности: омогућава хватање контекста на великим скалама.
   • Манe: може довести до "рупасте" перцепције и артефаката.

5. Transposed конволуција (транспонирана конволуција или deconvolution)

   • Користи се за повећање просторне резолуције (upsampling).
   • Предности: омогућава тренирање параметара за повећање величине.
   • Манe: може изазвати артефакте (нпр. шаховски образац).

6. Груписана конволуција (Grouped Convolution)

   • Улазни канали се деле на групе, а конволуција се примењује одвојено на сваку групу.
   • Предности: смањује број параметара и калкулација, омогућава изградњу дубљих мрежа (нпр. ResNeXt).
   • Манe: ограничава интеракцију између група канала.

Свакa врста конволуције се бира у зависности од задатка, захтева за перформансама и прецизношћу. На пример, separable и depthwise конволуције се широко користе у мобилним и уграђеним системима за оптимизацију ресурса.