Qu'est-ce que les cartes d'activation de classe (CAM) et Grad-CAM?

Les cartes d'activation de classe (CAM) sont une méthode de visualisation qui permet de comprendre quelles régions d'une image influencent la décision d'un réseau neuronal convolutif lors de la classification. CAM affiche une carte thermique mettant en évidence les régions importantes pour le modèle.

Grad-CAM est une extension de CAM qui utilise les gradients de la classe de sortie par rapport aux activations d'une couche convolutionnelle pour construire une carte d'importance. Cela permet d'appliquer la méthode à un plus large éventail de modèles, y compris ceux où l'utilisation directe de CAM n'est pas possible.

Exemple d'utilisation de Grad-CAM : lors de la classification d'une image avec un chien, Grad-CAM mettra en évidence la zone avec le chien, montrant que cette partie de l'image a influencé la décision du modèle.