Čo sú mapy aktivácie tried (CAM) a Grad-CAM?

Mapy aktivácie triedy (CAM) sú vizualizačná metóda, ktorá umožňuje pochopiť, ktoré oblasti obrázka ovplyvňujú rozhodnutie konvolučnej neurónovej siete pri klasifikácii. CAM zobrazuje teplotnú mapu, ktorá zvýrazňuje dôležité regióny pre model.

Grad-CAM je rozšírenie CAM, ktoré využíva gradienty výstupnej triedy vzhľadom na aktivácie konvolučnej vrstvy na vytvorenie mapy dôležitosti. To umožňuje aplikovať metódu na širší rozsah modelov, vrátane tých, kde nie je možné priamo použiť CAM.

Príklad použitia Grad-CAM: pri klasifikácii obrázka so psom Grad-CAM zvýrazní oblasť s psom, ukazujúc, že práve táto časť obrázka ovplyvnila rozhodnutie modelu.