Klass aktivatsiya xaritalari (CAM) va Grad-CAM nima?

Klass faoliyat xaritalari (CAM) — bu vizualizatsiya usuli bo‘lib, u konvolyutsion neyron tarmog‘ining tasniflashda tasvirning qaysi sohalari ta’sir qilishini tushunishga imkon beradi. CAM model uchun muhim bo‘lgan hududlarni ta’kidlaydigan issiqlik xaritasini ko‘rsatadi.

Grad-CAM — CAM ning kengaytmasi bo‘lib, u chiqish sinfi gradientlarini konvolyutsion qatlamning aktivatsiyalariga nisbatan ishlatib, ahamiyat xaritasini tuzadi. Bu usulni kengroq modellarga, jumladan, CAM ni to‘g‘ridan-to‘g‘ri ishlatish mumkin bo‘lmagan holatlarda ham qo‘llash imkonini beradi.

Grad-CAM ning misol qo‘llanilishi: it bilan tasvirni tasniflashda, Grad-CAM it bo‘lgan joyni ta’kidlaydi va bu tasvirning qaysi qismi modelning qaroriga ta’sir qilganini ko‘rsatadi.