Kas yra suspaudimo operacija? Kokios jos savybės? Kaip ją galima pavaizduoti kaip matricų daugybą (im2col)?

Konvoliucijos operacija yra pagrindinė operacija konvoliucinėse neuroninėse tinkluose (CNN), naudojama išskirti bruožus iš įvesties duomenų (pavyzdžiui, vaizdų). Ji apima filtru (konvoliucijos branduolio) slankų taikymą įvesties signalui, po kurio seka filtrų elementų ir atitinkamų įvesties elementų sandaugų sumavimas.

Pagrindinės konvoliucijos savybės:

• Lokalumas: filtras apima vietinę įvesties duomenų dalį.
• Parametrinė efektyvumas: tas pats filtras taikomas visai įvesties daliai.
• Invariantiškumas nuo poslinkių: konvoliucija aptinka bruožus nepriklausomai nuo jų padėties.

Konvoliucijos vaizdavimas per matricų daugybą (im2col):

Metodas im2col paverčia įvesties vaizdą į matricą, kur kiekviena stulpelis atitinka vietinį segmentą (langelį), išskleistą į vektorių, kuriam taikomas filtras. Filtras išskleidžiamas į eilutės-vektorių. Tada konvoliucija sumažinama iki im2col matricos ir filtro vektoriaus daugybos, leidžiančios efektyviai naudoti optimizuotas matricų daugybos operacijas.

Pavyzdys:

• Įvesties vaizdas 4x4
• Filtras 3x3

im2col sukurs 9x4 dydžio matricą (kiekvienas stulpelis — išskleistas 3x3 langelis į vektorių), o filtras bus 9 ilgio vektorius. Daugybos rezultatas bus 4 ilgio vektorius, kurį galima vėl paversti 2x2 bruožų žemėlapiu.

Tai pagreitina skaičiavimus ir supaprastina konvoliucijų įgyvendinimą GPU ir CPU.