Wat zijn class activation maps (CAM) en Grad-CAM?

Class Activation Maps (CAM) is een visualisatiemethode waarmee je kunt begrijpen welke gebieden van een afbeelding invloed hebben op de beslissing van een convolutioneel neuraal netwerk bij classificatie. CAM toont een warmtekaart die belangrijke regio's voor het model benadrukt.

Grad-CAM is een uitbreiding van CAM die de gradiënten van de uitgangsklasse ten opzichte van de activaties van een convolutionele laag gebruikt om een belangrijkheidkaart te maken. Dit maakt het mogelijk om de methode toe te passen op een breder scala aan modellen, inclusief die waar directe toepassing van CAM niet mogelijk is.

Voorbeeld van Grad-CAM toepassing: bij het classificeren van een afbeelding met een hond, markeert Grad-CAM het gebied met de hond, wat aangeeft dat dit deel van de afbeelding de beslissing van het model heeft beïnvloed.