Какво представляват картите за активиране на клас (CAM) и Grad-CAM?

Клас активиращи карти (CAM) са метод за визуализация, който позволява да се разбере кои области на изображението влияят на решението на конволюционната невронна мрежа при класификация. CAM показва топлинна карта, която подчертава важните за модела региони.

Grad-CAM е разширение на CAM, което използва градиентите на изходния клас спрямо активациите на конволюционния слой за създаване на карта на важността. Това позволява прилагането на метода към по-широк спектър от модели, включително и такива, където директното използване на CAM е невъзможно.

Пример за приложение на Grad-CAM: при класифициране на изображение с куче, Grad-CAM ще подчертае областта с кучето, показвайки, че именно тази част от изображението е повлияла на решението на модела.