RelShap: Relationally Consistent Shapley Explanations
Di cosa parla
RelShap propone un modo per rendere più realistiche le spiegazioni che dicono quanto conta ciascuna caratteristica in un modello: corregge il problema per cui le spiegazioni valutano combinazioni di dati che nella realtà non possono esistere. Il metodo incorpora le regole e l’origine dei dati per considerare solo configurazioni valide, si integra con strumenti già usati e sfrutta relazioni tra colonne per accelerare i calcoli.
Cosa permette di osservare
Consente di esplorare se le misure di importanza delle caratteristiche rispettano la struttura reale dei dati e quanto cambia la spiegazione quando si valutano solo combinazioni possibili, aiutando a capire quando fidarsi delle attribuzioni di importanza.
Dalla fonte
Machine learning pipelines commonly flatten relational data into single-table representations, discarding structural constraints. Widely used Shapley value-based feature attributions then rely on feature independence, evaluating the model on combinations that could never arise in the underlying data, producing misleading explanations. We propose RelShap, a framework that incorporates relational constraints and data provenance into Shapley value computation, restricting both background data and coalition evaluation to relationally valid configurations. The framework is estimator-agnostic and composes with Kernel SHAP, Monte Carlo, and Leverage SHAP without altering their sampling or weighting properties. Functional dependencies further induce equivalence classes over feature coalitions, which RelShap exploits to reduce runtime without changing Shapley values; we provide a combinatorial c…