Mis on klassi aktiveerimiskaardid (CAM) ja Grad-CAM?

Klassi aktiveerimise kaardid (CAM) on visualiseerimismeetod, mis võimaldab mõista, millised pildi piirkonnad mõjutavad konvolutsioonilise närvivõrgu otsust klassifikatsiooni ajal. CAM näitab soojuskaarti, mis rõhutab olulisi piirkondi mudeli jaoks.

Grad-CAM on CAM laiendus, mis kasutab väljundklassi gradientide ja konvolutsioonilise kihi aktiveerimiste suhteid, et luua olulisuse kaart. See võimaldab meetodit rakendada laiemale mudelite valikule, sealhulgas neile, kus CAM-i otsene kasutamine ei ole võimalik.

Grad-CAM näide: pildi klassifitseerimisel koeraga, Grad-CAM rõhutab koeraga seotud piirkonda ja näitab, et just see pildi osa mõjutas mudeli otsust.