Class Activation Mapping in Explainable Computer Vision: A Method-Centered Review of CNN, Transformer, and Foundation-Model-Era Visual Explanations
Di cosa parla
Class activation mapping è un modo per trasformare le «prove» interne di un modello in una mappa visiva che evidenzia le porzioni di un'immagine che sostengono una classe o un concetto. La rassegna sintetizza 57 lavori dal 2016 in poi, organizza i metodi secondo come individuano responsabilità, quanto dipendono dall'architettura e cosa valutano, e mostra il passaggio da spiegazioni semplici su un singolo livello a approcci comparativi, multilivello e attenti ai grandi modelli e ai segmenti dell'immagine.
Cosa permette di osservare
Consente di esplorare come oggi si cerca di rendere interpretabili le decisioni dei modelli visivi, quali lacune restano nelle modalità di valutazione (per esempio coerenza e robustezza) e come l'arrivo di modelli più grandi influisce sulle spiegazioni proposte.
Dalla fonte
Class activation mapping (CAM) is one of the most widely used visual explanation families in explainable artificial intelligence. Its purpose is intuitive: it converts internal model evidence into a heatmap that highlights the image regions, convolutional channels, tokens, or patches that support a target class or concept. Since the first CAM formulation in 2016, the field has moved far beyond global-average-pooled CNN classifiers. CAM-style methods now include gradient-based post-hoc explanations, gradient-free score and ablation methods, high-resolution upscaling, weakly supervised localization and segmentation, transformer token attribution, causal and debiasing methods, and foundation-model-era approaches that use CLIP, DINO, SAM, or feature-distribution comparisons. This review synthesizes a strict corpus of 57 method-centered papers published from 2016 onward. The paper develops a…