რა არის კლასის აქტივაციის რუკები (CAM) და Grad-CAM?

კლასის აქტივაციის რუკები (CAM) — ეს ვიზუალიზაციის მეთოდია, რომელიც საშუალებას გვაძლევს გავიგოთ, რომელი სურათის უბნები ახდენენ გავლენას კონვოლუციური ნეირონული ქსელის გადაწყვეტილებაზე კლასიფიკაციის დროს. CAM აჩვენებს თბილ რუკას, რომელიც ხაზს უსვამს მოდელისათვის მნიშვნელოვან რეგიონებს.

Grad-CAM — ეს CAM-ის გაფართოებაა, რომელიც იყენებს გამოსავალი კლასის გრედიენტებს კონვოლუციური ფენის აქტივობებთან მიმართებაში, რათა შექმნას მნიშვნელობის რუკა. ეს საშუალებას აძლევს მეთოდის გამოყენებას უფრო ფართო მოდელებზე, მათ შორის იმ შემთხვევებში, სადაც CAM-ის პირდაპირი გამოყენება შეუძლებელია.

Grad-CAM-ის მაგალითი: როდესაც კლასიფიცირებულია სურათი ძაღლთან, Grad-CAM გამოყოფს ძაღლთან დაკავშირებულ ტერიტორიას და აჩვენებს, რომ სწორედ ეს ნაწილი სურათის გავლენას ახდენს მოდელის გადაწყვეტილებაზე.