論文の概要: Faithful Faithfulness Evaluations: Challenges & Pitfalls Learned from a Breast MRI Case Study

• arxiv url: http://arxiv.org/abs/2609.25978v1
• Date: Tue, 22 Sep 2026 10:34:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.320016
• Title: Faithful Faithfulness Evaluations: Challenges & Pitfalls Learned from a Breast MRI Case Study
• Title（参考訳）: Fithful Faithfulness Evaluations: Challenges & Pitfalls Learned from a Breast MRI Case Study
• Abstract要約: サリエンシマップは、医用画像の深層学習予測を説明するために広く用いられているが、視覚的に妥当な説明は、必ずしもモデルの真の決定過程を反映していない。 本研究では, ODELIA Breast MRI Challengeデータセットで訓練したVision Transformerを用いた乳房MRI分類器を用いて, この問題を解決する。 最終層注意, 注意ロールアウト, Grad-SAM, Gradient Attention Rollout, GMAR, Grad-CAM, HiResCAM など, 各種サリエンシ手法の評価を行った。
• 参考スコア（独自算出の注目度）: 2.6126272668390373
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Saliency maps are widely used to explain deep learning predictions in medical imaging, yet visually plausible explanations do not necessarily reflect a model's true decision process and may therefore mislead clinicians. We investigate this problem using a Vision Transformer-based breast MRI classifier trained on the ODELIA Breast MRI Challenge dataset and evaluate multiple saliency methods, including Last-layer Attention, Attention Rollout, Grad-SAM, Gradient Attention Rollout, GMAR, Grad-CAM, and HiResCAM. Our study highlights two often-overlooked challenges in perturbation-based faithfulness evaluation. First, method rankings depend strongly on the perturbation strategy, varying across intensity-based perturbations and transformer-based attention masking. Second, benchmarking saliency methods requires distinguishing between class-specific and class-agnostic explanations. To enable fair comparisons, we introduce non-class-specific variants of gradient-based methods and evaluate both settings separately. Across protocols, Grad-CAM and Gradient Attention Rollout consistently emerged as the strongest class-specific methods, although their relative ranking depended on the evaluation design. These findings expose important limitations of current saliency-based explainability approaches and highlight the need for more robust and standardized evaluation frameworks for trustworthy clinical AI systems.
• Abstract（参考訳）: 唾液マップは、医用画像の深層学習予測を説明するために広く用いられているが、視覚的に妥当な説明は、必ずしもモデルの真の決定過程を反映していないため、臨床医を誤解させる可能性がある。 この問題を, ODELIA Breast MRI Challengeデータセットに基づいて訓練したVision Transformerベースの乳房MRI分類器を用いて検討し, 最終層注意, 注意ロールアウト, Grad-SAM, Gradient Attention Rollout, GMAR, Grad-CAM, HiResCAMを含む複数の唾液濃度法の評価を行った。 本研究は、摂動に基づく忠実度評価において、しばしば見過ごされる2つの課題を強調した。 第一に、手法のランク付けは摂動戦略に強く依存し、強度に基づく摂動と変圧器に基づく注意マスクによって異なる。 2つ目は、クラス固有の説明とクラスに依存しない説明を区別することである。 公平な比較を可能にするため,勾配法では非クラス固有の変種を導入し,両方の設定を別々に評価する。 プロトコル全体では、Grad-CAMとGradient Attention Rolloutが最強のクラス固有のメソッドとして一貫して登場したが、その相対的なランクは評価設計に依存していた。 これらの知見は、現在の正当性に基づく説明可能性アプローチの重要な制限を明らかにし、信頼できる臨床AIシステムのためのより堅牢で標準化された評価フレームワークの必要性を強調している。

関連論文リスト

• ProtoCAM: Interpretable Few-Shot Mask-Guided Prototypical Learning for Breast Lesion Classification in Ultrasound Imaging [0.2538209532048867]
  ProtoCAMは乳房病変分類のための説明可能な数発の学習フレームワークである。 マスク誘導型特徴符号化、原型的メートル法学習、勾配に基づく視覚的説明を統合している。 BUSIデータセット上で,層状群k-foldクロスバリデーションプロトコルを用いて評価した。
  論文  参考訳（メタデータ） (2026-09-11T12:05:39Z)
• Quantifying Explanation Consistency: The C-Score Metric for CAM-Based Explainability in Medical Image Classification [5.127836966483091]
  CAM(Class Activation Mapping)法は、医用画像における深層学習分類器の視覚的説明を生成するために広く用いられている。 既存の評価フレームワークは、ラジオロジストアノテーションに対する局所化忠実度を用いて、説明が正しいかどうかを評価する。 Cスコア(Consistency Score, Consistency Score, C-Score, C-Score, C-Score, C-Score, C-Score, C-Score, C-Score)を提案する。
  論文  参考訳（メタデータ） (2026-04-09T17:47:31Z)
• OCSVM-Guided Representation Learning for Unsupervised Anomaly Detection [1.0190194769786831]
  Unsupervised Anomaly Detection (UAD) は、ラベル付きデータなしで異常を検出することを目的としている。 解析的に解ける一級SVMを用いて表現学習を緊密に結合する新しい手法を提案する。 このモデルは、MNIST-Cに基づく新しいベンチマークと、挑戦的な脳MRI微妙な病変検出タスクの2つのタスクで評価されている。
  論文  参考訳（メタデータ） (2025-07-25T13:00:40Z)
• The Skin Game: Revolutionizing Standards for AI Dermatology Model Comparison [0.6144680854063939]
  皮膚画像分類における深層学習アプローチは有望な結果を示しているが、適切な評価を妨げる重要な方法論的課題に直面している。 本稿では、皮膚疾患分類研究における現在の方法論の体系的分析を行い、データ準備、強化戦略、パフォーマンス報告におけるかなりの不整合を明らかにした。 本稿では、厳密なデータ準備、系統的誤り解析、異なる画像タイプのための特別なプロトコルを強調し、モデル開発、評価、臨床展開のための包括的な方法論的勧告を提案する。
  論文  参考訳（メタデータ） (2025-02-04T17:15:36Z)
• Boosting Few-Shot Learning with Disentangled Self-Supervised Learning and Meta-Learning for Medical Image Classification [8.975676404678374]
  低データ体制下で訓練されたモデルの性能と一般化能力を改善するための戦略を提案する。 提案手法は、自己教師付き学習環境において学習した特徴をアンタングル化して、下流タスクの表現の堅牢性を向上する事前学習段階から開始する。 次に、メタファインニングのステップを導入し、メタトレーニングとメタテストフェーズの関連クラスを活用するが、レベルは変化する。
  論文  参考訳（メタデータ） (2024-03-26T09:36:20Z)
• Multi-task Explainable Skin Lesion Classification [54.76511683427566]
  少ないラベル付きデータでよく一般化する皮膚病変に対する数発のショットベースアプローチを提案する。 提案手法は,アテンションモジュールや分類ネットワークとして機能するセグメンテーションネットワークの融合を含む。
  論文  参考訳（メタデータ） (2023-10-11T05:49:47Z)
• Improving Multiple Sclerosis Lesion Segmentation Across Clinical Sites: A Federated Learning Approach with Noise-Resilient Training [75.40980802817349]
  深層学習モデルは、自動的にMS病変を分節する約束を示しているが、正確な注釈付きデータの不足は、この分野の進歩を妨げている。 我々は,MS病変の不均衡分布とファジィ境界を考慮したDecoupled Hard Label Correction(DHLC)戦略を導入する。 また,集約型中央モデルを利用したCELC(Centrally Enhanced Label Correction)戦略も導入した。
  論文  参考訳（メタデータ） (2023-08-31T00:36:10Z)
• Rethinking Semi-Supervised Medical Image Segmentation: A Variance-Reduction Perspective [51.70661197256033]
  医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。 まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。 5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
  論文  参考訳（メタデータ） (2023-02-03T13:50:25Z)
• Learning Discriminative Representation via Metric Learning for Imbalanced Medical Image Classification [52.94051907952536]
  本稿では,特徴抽出器がより識別的な特徴表現を抽出するのを助けるために,2段階フレームワークの第1段階にメトリック学習を組み込むことを提案する。 主に3つの医用画像データセットを用いて実験したところ、提案手法は既存の1段階と2段階のアプローチより一貫して優れていた。
  論文  参考訳（メタデータ） (2022-07-14T14:57:01Z)
• Cross-Site Severity Assessment of COVID-19 from CT Images via Domain Adaptation [64.59521853145368]
  CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。 ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。 この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
  論文  参考訳（メタデータ） (2021-09-08T07:56:51Z)
• Explaining Clinical Decision Support Systems in Medical Imaging using Cycle-Consistent Activation Maximization [112.2628296775395]
  ディープニューラルネットワークを用いた臨床意思決定支援は、着実に関心が高まりつつあるトピックとなっている。 臨床医は、その根底にある意思決定プロセスが不透明で理解しにくいため、この技術の採用をためらうことが多い。 そこで我々は,より小さなデータセットであっても,分類器決定の高品質な可視化を生成するCycleGANアクティベーションに基づく,新たな意思決定手法を提案する。
  論文  参考訳（メタデータ） (2020-10-09T14:39:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。