Каква е операцията на сгъване? Какви са нейните свойства? Как може да бъде представена като матрично умножение (im2col)?

Операцията на свиване е основна операция в свързващите невронни мрежи (CNN), която се използва за извличане на характеристики от входните данни (например изображения). Тя се състои в прилагането на филтър (ядро на свиване) с приплъзване към входния сигнал с последващо сумиране на произведенията на елементите на филтъра и съответните елементи на входа.

Основни свойства на свиването:

• Локалност: филтърът обхваща локален участък от входните данни.
• Параметрична ефективност: същият филтър се прилага към цялото входно изображение.
• Инвариантност към премествания: свиването открива характеристики независимо от тяхното положение.

Представяне на свиването чрез матрично умножение (im2col):

Методът im2col преобразува входното изображение в матрица, където всяка колона съответства на локален участък (прозорец), разпънат в вектор, върху който се прилага филтърът. Филтърът се разпъва в ред-вектор. След това свиването се свежда до умножение на матрицата im2col с вектора на филтъра, което позволява ефективно използване на оптимизирани операции за матрично умножение.

Пример:

• Входно изображение 4x4
• Филтър 3x3

im2col ще създаде матрица с размер 9x4 (всеки стълб е разпънато векторно прозорец 3x3), а филтърът ще бъде вектор с дължина 9. Резултатът от умножението е вектор с дължина 4, който може да бъде преобразуван обратно в карта на характеристики 2x2.

Това ускорява изчисленията и опростява реализирането на свиванията на GPU и CPU.