論文の概要: Explainable AI Methods for Neuroimaging: Systematic Failures of Common Tools, the Need for Domain-Specific Validation, and a Proposal for Safe Application
- arxiv url: http://arxiv.org/abs/2508.02560v1
- Date: Mon, 04 Aug 2025 16:14:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-05 18:25:22.423958
- Title: Explainable AI Methods for Neuroimaging: Systematic Failures of Common Tools, the Need for Domain-Specific Validation, and a Proposal for Safe Application
- Title（参考訳）: 神経イメージングのための説明可能なAI手法:共通ツールの系統的失敗、ドメイン特化検証の必要性、安全アプリケーションの提案
- Authors: Nys Tjade Siegel, James H. Cole, Mohamad Habes, Stefan Haufe, Kerstin Ritter, Marc-André Schulz,
- Abstract要約: 45,000個の構造脳MRI上で, Explainable AI (XAI) 法の最初の大規模, 体系的な比較を行った。
分析の結果,最も広く用いられている2つの手法の系統的障害が明らかになった。
これらの失敗は、自然画像に適した設計原則を持つ手法が神経画像データにかなり適応する必要があるというドメインミスマッチに起因している。
- 参考スコア（独自算出の注目度）: 1.0000511213628438
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Trustworthy interpretation of deep learning models is critical for neuroimaging applications, yet commonly used Explainable AI (XAI) methods lack rigorous validation, risking misinterpretation. We performed the first large-scale, systematic comparison of XAI methods on ~45,000 structural brain MRIs using a novel XAI validation framework. This framework establishes verifiable ground truth by constructing prediction tasks with known signal sources - from localized anatomical features to subject-specific clinical lesions - without artificially altering input images. Our analysis reveals systematic failures in two of the most widely used methods: GradCAM consistently failed to localize predictive features, while Layer-wise Relevance Propagation generated extensive, artifactual explanations that suggest incompatibility with neuroimaging data characteristics. Our results indicate that these failures stem from a domain mismatch, where methods with design principles tailored to natural images require substantial adaptation for neuroimaging data. In contrast, the simpler, gradient-based method SmoothGrad, which makes fewer assumptions about data structure, proved consistently accurate, suggesting its conceptual simplicity makes it more robust to this domain shift. These findings highlight the need for domain-specific adaptation and validation of XAI methods, suggest that interpretations from prior neuroimaging studies using standard XAI methodology warrant re-evaluation, and provide urgent guidance for practical application of XAI in neuroimaging.
- Abstract（参考訳）: ディープラーニングモデルの信頼できる解釈は、ニューロイメージングの応用には不可欠だが、一般的に使用される説明可能なAI(XAI)メソッドには厳密な検証がなく、誤解釈のリスクがある。
我々は,新しいXAI検証フレームワークを用いて,約45,000個の構造脳MRIを用いたXAI法の最初の大規模,体系的な比較を行った。
この枠組みは、入力イメージを人工的に変更することなく、局所的な解剖学的特徴から対象特異的な臨床病変まで、既知の信号源で予測タスクを構築することによって、検証可能な基底真理を確立する。
GradCAMは予測的特徴のローカライズに一貫して失敗し,Layer-wise Relevance Propagationはニューロイメージングデータの特徴と相容れないことを示す広範な人工的な説明を生成した。
以上の結果から,これらの障害は,自然画像に適した設計原理を持つ手法が,神経画像データに相当な適応を必要とする領域ミスマッチに起因していることが示唆された。
対照的に、データ構造に関する仮定を少なくする、より単純で勾配に基づくSmoothGradは、一貫して正確であることが証明され、その概念的単純さによって、このドメインシフトに対してより堅牢であることが示唆された。
これらの知見は、XAI手法のドメイン固有の適応と検証の必要性を浮き彫りにして、標準XAI手法による神経イメージング研究からの解釈が再評価されることを示唆し、神経イメージングにおけるXAIの実践的応用のための緊急ガイダンスを提供する。
関連論文リスト
- Certified Neural Approximations of Nonlinear Dynamics [52.79163248326912]
安全クリティカルな文脈では、神経近似の使用は、基礎となるシステムとの密接性に公式な境界を必要とする。
本稿では,認証された一階述語モデルに基づく新しい,適応的で並列化可能な検証手法を提案する。
論文 参考訳（メタデータ） (2025-05-21T13:22:20Z) - Trustworthy image-to-image translation: evaluating uncertainty calibration in unpaired training scenarios [0.0]
マンモグラフィスクリーニングは乳がんの検出に有効な方法であり、早期診断を容易にする。
ディープニューラルネットワークはいくつかの研究で有効であることが示されているが、その傾向は一般化と誤診のリスクをかなり残している。
汎用性を向上させるために、未ペア型ニューラルスタイル転送モデルに基づくデータ拡張スキームが提案されている。
3つのオープンアクセスマンモグラフィーデータセットと1つの非医療画像データセットから解析した画像パッチを用いて、それらの性能を評価する。
論文 参考訳（メタデータ） (2025-01-29T11:09:50Z) - SEANN: A Domain-Informed Neural Network for Epidemiological Insights [0.9749638953163389]
ドメイン固有知識の一般的な形式を活用した情報診断のための新しいアプローチSEANNを紹介します:pooled Effect Sizes (PES)
PESは、公表されたメタ分析研究でよく見られ、異なる形態で、科学的コンセンサスの定量的な形態を表している。
本研究では, 予測性能の一般化可能性および抽出された関係の科学的妥当性について, 有意な改善を実験的に示す。
論文 参考訳（メタデータ） (2025-01-17T16:01:05Z) - Orthogonal Subspace Decomposition for Generalizable AI-Generated Image Detection [58.87142367781417]
航法的に訓練された検出器は、限定的で単調な偽のパターンに過度に適合する傾向にあり、特徴空間は高度に制約され、低ランクになる。
潜在的な治療法の1つは、ビジョンファウンデーションモデルに事前訓練された知識を取り入れて、機能領域を広げることである。
主要なコンポーネントを凍結し、残ったコンポーネントのみを適用することで、フェイクパターンを学習しながら、トレーニング済みの知識を保存します。
論文 参考訳（メタデータ） (2024-11-23T19:10:32Z) - IBO: Inpainting-Based Occlusion to Enhance Explainable Artificial Intelligence Evaluation in Histopathology [1.9440228513607511]
Inpainting-Based Occlusion (IBO) は,Denoising Diffusion Probabilistic Model を利用した新しい手法である。
まず,学習された知覚的イメージパッチ類似度(LPIPS)測定値を用いて知覚的類似性を評価するとともに,AUC分析によるモデル予測への影響を定量化する。
論文 参考訳（メタデータ） (2024-08-29T09:57:55Z) - DeepTechnome: Mitigating Unknown Bias in Deep Learning Based Assessment
of CT Images [44.62475518267084]
私たちは、未知のバイアスに対するトレーニング中にディープラーニングモデルをデバイアスします。
制御領域は、バイアスに関する情報を伝達する代理として使用します。
強いバイアスを示すデータから学習する手法を応用し、対応する偏りのないデータを用いたトレーニングで観測された分類性能をほぼ完全に回復する。
論文 参考訳（メタデータ） (2022-05-26T12:18:48Z) - Ultrasound Signal Processing: From Models to Deep Learning [64.56774869055826]
医用超音波画像は、信頼性と解釈可能な画像再構成を提供するために、高品質な信号処理に大きく依存している。
データ駆動方式で最適化されたディープラーニングベースの手法が人気を集めている。
比較的新しいパラダイムは、データ駆動型ディープラーニングの活用とドメイン知識の活用という2つのパワーを組み合わせたものだ。
論文 参考訳（メタデータ） (2022-04-09T13:04:36Z) - Facial Anatomical Landmark Detection using Regularized Transfer Learning
with Application to Fetal Alcohol Syndrome Recognition [24.27777060287004]
出生前アルコール曝露による胎児アルコール症候群(FAS)は、一連の頭蓋顔面異常を引き起こす可能性がある。
解剖学的ランドマーク検出は,FAS関連顔面異常の検出に重要である。
自然画像における顔のランドマーク検出のために設計された現在のディープラーニングに基づく熱マップ回帰法は、大きなデータセットが利用できることを前提としている。
我々は,大規模な顔認識データセットから学習したネットワークの知識を活用する,新たな正規化トランスファー学習手法を開発した。
論文 参考訳（メタデータ） (2021-09-12T11:05:06Z) - Unsupervised anomaly detection in digital pathology using GANs [4.318555434063274]
本稿では,GANを用いた病理組織データにおける異常検出のための新しい教師なし学習手法を提案する。
医用画像に用いられている既存のGAN法と比較して,本手法は病理データの性能を大幅に改善する。
論文 参考訳（メタデータ） (2021-03-16T10:10:12Z) - Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for
Thoracic Disease Identification [83.6017225363714]
ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。
胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。
本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
論文 参考訳（メタデータ） (2021-02-26T02:29:30Z) - Fader Networks for domain adaptation on fMRI: ABIDE-II study [68.5481471934606]
我々は3次元畳み込みオートエンコーダを用いて、無関係な空間画像表現を実現するとともに、ABIDEデータ上で既存のアプローチより優れていることを示す。
論文 参考訳（メタデータ） (2020-10-14T16:50:50Z) - Semi-supervised Medical Image Classification with Relation-driven
Self-ensembling Model [71.80319052891817]
医用画像分類のための関係駆動型半教師付きフレームワークを提案する。
これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。
本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
論文 参考訳（メタデータ） (2020-05-15T06:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。