Czym są mapy aktywacji klasy (CAM) i Grad-CAM?

Mapy aktywacji klasy (CAM) to metoda wizualizacji, która pozwala zrozumieć, które obszary obrazu wpływają na decyzję konwolucyjnej sieci neuronowej podczas klasyfikacji. CAM pokazuje mapę cieplną, wyróżniającą ważne dla modelu regiony.

Grad-CAM to rozszerzenie CAM, które wykorzystuje gradienty klasy wyjściowej względem aktywacji warstwy konwolucyjnej do tworzenia mapy ważności. Pozwala to na zastosowanie metody do szerszej gamy modeli, w tym tych, w których bezpośrednie użycie CAM jest niemożliwe.

Przykład zastosowania Grad-CAM: przy klasyfikacji obrazu z psem, Grad-CAM wyświetli obszar z psem, pokazując, że to właśnie ta część obrazu wpłynęła na decyzję modelu.