Kas ir klases aktivizācijas kartes (CAM) un Grad-CAM?

Klases aktivizācijas kartes (CAM) ir vizualizācijas metode, kas ļauj saprast, kuras attēla zonas ietekmē konvolucionālās neironu tīkla lēmumu klasifikācijas laikā. CAM rāda siltuma karti, kas izceļ svarīgās zonas modelim.

Grad-CAM ir CAM paplašinājums, kas izmanto izejas klases gradientus attiecībā pret konvolucionālā slāņa aktivācijām, lai izveidotu svarīguma karti. Tas ļauj piemērot šo metodi plašākam modeļu klāstam, tostarp tiem, kuros tieša CAM izmantošana nav iespējama.

Grad-CAM piemērs: klasificējot attēlu ar suni, Grad-CAM izcels suni saturo zonu, rādot, ka tieši šī attēla daļa ietekmēja modeļa lēmumu.