Ի՞նչ են դասի ակտիվացման քարտեզները (CAM) և Grad-CAM-ը։

Դասի ակտիվացման քարտեզները (CAM) վիզուալիզացիայի մեթոդ են, որը թույլ է տալիս հասկանալ, թե որ տարածքները պատկերում ազդում են կոնվոլյուցիոն նեյրոնային ցանցի որոշման վրա։ CAM ցույց է տալիս տաքության քարտ, որը ընդգծում է կարևոր տարածքները մոդելի համար։

Grad-CAM-ը CAM-ի ընդլայնումն է, որը օգտագործում է ելքային դասի գրադիենտները կոնվոլյուցիոն շերտի ակտիվացումների նկատմամբ՝ կարևորության քարտեզ կառուցելու համար։ Սա թույլ է տալիս կիրառել մեթոդը ավելի լայն մոդելների վրա, այդ թվում՝ այնպիսիք, որտեղ ուղղակի օգտագործումը CAM-ի հնարավոր չէ։

Grad-CAM-ի օրինակ՝ երբ դասակարգում է պատկերով մի շուն, Grad-CAM-ը ընդգծում է շունը պարունակող տարածքը և ցույց է տալիս, որ հենց այդ հատվածը ազդել է մոդելի որոշման վրա։