O que são mapas de ativação de classe (CAM) e Grad-CAM?

Mapas de Ativação de Classe (CAM) são um método de visualização que permite entender quais áreas de uma imagem influenciam a decisão de uma rede neural convolucional durante a classificação. O CAM mostra um mapa de calor destacando as regiões importantes para o modelo.

Grad-CAM é uma extensão do CAM que usa os gradientes da classe de saída em relação às ativações de uma camada convolucional para construir um mapa de importância. Isso permite aplicar o método a uma gama mais ampla de modelos, incluindo aqueles onde o uso direto do CAM não é possível.

Exemplo de aplicação do Grad-CAM: ao classificar uma imagem com um cachorro, o Grad-CAM destacará a área com o cachorro, mostrando que essa parte da imagem influenciou a decisão do modelo.