¿Qué son los mapas de activación de clase (CAM) y Grad-CAM?

Los Mapas de Activación de Clases (CAM) son un método de visualización que permite entender qué áreas de una imagen influyen en la decisión de una red neuronal convolucional durante la clasificación. CAM muestra un mapa de calor que resalta las regiones importantes para el modelo.

Grad-CAM es una extensión de CAM que utiliza los gradientes de la clase de salida respecto a las activaciones de una capa convolucional para construir un mapa de importancia. Esto permite aplicar el método a una gama más amplia de modelos, incluyendo aquellos donde no es posible usar CAM directamente.

Ejemplo de uso de Grad-CAM: al clasificar una imagen con un perro, Grad-CAM resaltará la zona con el perro, mostrando que esa parte de la imagen fue la que influyó en la decisión del modelo.