Stability Does Not Imply Evidence: A Formal Analysis of Evidential Dependence in Attribution-Based Medical XAI - 05/10/26

Doi : 10.1016/j.neuri.2026.100296 
Changxin Ji ⁎
 College of Science and Engineering Flinders University Adelaide, Australia 

⁎ Corresponding author:College of Science and Engineering Flinders University Adelaide, Australia College of Science and Engineering Flinders University Adelaide Australia

Bienvenue sur EM-consulte, la référence des professionnels de santé.
Article gratuit.

Connectez-vous pour en bénéficier!

Sous presse. Manuscrit accepté. Disponible en ligne depuis le Monday 05 October 2026

Abstract

Stable attribution maps may suggest that a medical AI model relies on intended image features, but stability alone cannot show which factor drives the prediction. We examine this gap in attribution-based medical XAI. Audited decision dependence is prediction-side dependence on a pre-registered target factor, tested by admissible targeted interventions against matched controls under the same audit budget on a pre-registered model-output response scale; label flips and continuous probability or logit changes are explicit instances. Building on the established distinction between observational stability and intervention-based dependence, we show that target-dependent and shortcut-dependent predictors can be indistinguishable under non-target transformations yet respond differently when the declared factor is modified. We introduce audited evidential dependence as a stronger framework requiring graded sensitivity, refutability, and distribution-level prevalence, with a minimal audit protocol using admissibility checks and uncertainty-aware verdicts. A controlled BraTS2020 tumour-mask versus shortcut experiment provides a quantitative proof-of-concept of the audit logic, not end-to-end attribution or clinical validation. The primary audit uses official tumour masks as supplied candidate regions and constructed target-oriented and shortcut-oriented control predictors, testing a designed dependence contrast rather than attribution-based discovery of a clinically meaningful target. Both predictors remained prediction- and attribution-stable under mild non-target perturbations, whereas the matched-control audit showed a large positive control-subtracted tumour-factor response for TargetModel and a near-zero response for ShortcutModel. Deletion-style sensitivity was complementary but not target-specific. The framework provides a practical audit layer for testing whether a stable or plausible explanation reflects dependence on the intended target factor rather than a correlated shortcut.

Le texte complet de cet article est disponible en PDF.

Keywords : explainable artificial intelligence, medical image analysis, audited evidential dependence, intervention-based evaluation, attribution-based evaluation, BraTS2020


Plan


© 2026  Publié par Elsevier Masson SAS.
Ajouter à ma bibliothèque Retirer de ma bibliothèque Imprimer
Export

    Export citations

  • Fichier

  • Contenu

Bienvenue sur EM-consulte, la référence des professionnels de santé.

Elsevier s'engage à rendre ses eBooks accessibles et à se conformer aux lois applicables. Compte tenu de notre vaste bibliothèque de titres, il existe des cas où rendre un livre électronique entièrement accessible présente des défis uniques et l'inclusion de fonctionnalités complètes pourrait transformer sa nature au point de ne plus servir son objectif principal ou d'entraîner un fardeau disproportionné pour l'éditeur. Par conséquent, l'accessibilité de cet eBook peut être limitée. Voir plus

Mon compte


Plateformes Elsevier Masson

Déclaration CNIL

EM-CONSULTE.COM est déclaré à la CNIL, déclaration n° 1286925.

En application de la loi nº78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, vous disposez des droits d'opposition (art.26 de la loi), d'accès (art.34 à 38 de la loi), et de rectification (art.36 de la loi) des données vous concernant. Ainsi, vous pouvez exiger que soient rectifiées, complétées, clarifiées, mises à jour ou effacées les informations vous concernant qui sont inexactes, incomplètes, équivoques, périmées ou dont la collecte ou l'utilisation ou la conservation est interdite.
Les informations personnelles concernant les visiteurs de notre site, y compris leur identité, sont confidentielles.
Le responsable du site s'engage sur l'honneur à respecter les conditions légales de confidentialité applicables en France et à ne pas divulguer ces informations à des tiers.


Tout le contenu de ce site: Copyright © 2026 Elsevier, ses concédants de licence et ses contributeurs. Tout les droits sont réservés, y compris ceux relatifs à l'exploration de textes et de données, a la formation en IA et aux technologies similaires. Pour tout contenu en libre accès, les conditions de licence Creative Commons s'appliquent.