Šta je operacija savijanja? Koja su njena svojstva? Kako je moguće predstaviti je kao matricno množenje (im2col)?

Operacija konvolucije je osnovna operacija u konvolucionim neuronskim mrežama (CNN), koja se koristi za izdvajanje karakteristika iz ulaznih podataka (npr. slika). Sastoji se od primene kliznog filtera (jezgra konvolucije) na ulazni signal sa naknadnim sabiranjem proizvoda elemenata filtera i odgovarajućih elemenata ulaza.

Glavne osobine konvolucije:

• Lokalnost: filter pokriva lokalni deo ulaznih podataka.
• Parametarska efikasnost: isti filter se primenjuje na celom ulazu.
• Invarijantnost na pomeraje: konvolucija detektuje karakteristike nezavisno od njihove pozicije.

Prikaz konvolucije putem matrica množenja (im2col):

Metoda im2col transformiše ulaznu sliku u matricu, gde svaka kolona odgovara lokalnom delu (prozoru) razvučenom u vektor, na koji se primenjuje filter. Filter se razvuče u red-vektor. Zatim se konvolucija svodi na množenje matrice im2col sa vektorom filtera, što omogućava efikasno korišćenje optimizovanih operacija množenja matrica.

Primer:

• Ulazna slika 4x4
• Filter 3x3

im2col će kreirati matricu dimenzija 9x4 (svaka kolona je razvučeno 3x3 okno u vektor), a filter će biti vektor dužine 9. Rezultat množenja je vektor dužine 4, koji se može ponovo pretvoriti u mapu karakteristika 2x2.

Ovo ubrzava računanja i pojednostavljuje implementaciju konvolucija na GPU i CPU.