論文の概要: ReMoDEx: A Local-to-Global Relevance-Based Model Decision Explainability Framework for large-Scale Image Datasets

• arxiv url: http://arxiv.org/abs/2607.06889v1
• Date: Wed, 08 Jul 2026 01:15:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.246737
• Title: ReMoDEx: A Local-to-Global Relevance-Based Model Decision Explainability Framework for large-Scale Image Datasets
• Title（参考訳）: ReMoDEx: 大規模画像データセットのための局所的-グローバル的関連性に基づくモデル決定可能性フレームワーク
• Abstract要約: ReMoDEx(Relevance Based Model Decision Explainability)は、画像分類におけるモデル決定行動の体系的、データセットスケール評価のためのフレームワークである。 ReMoDExは、モデル推論、ターゲットクラス選択、関連マップ生成、ヒートマップ標準化、パターンの類似性に基づくグループ化、クラスタレベルの解釈、空間関連評価といったステップワイズパイプラインを定義している。 ReMoDEx は VGG16 をベースとした COVID-19, Normal, Lung Opacity, Viral Pneumonia を識別する分類器に応用した。
• 参考スコア（独自算出の注目度）: 1.6567880228735359
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Deep learning image classifiers achieve strong predictive performance yet remain opaque in how decisions are formed. A model may predict correctly while relying on irrelevant cues, shortcut associations, peripheral structures, or device level artifacts instead of task relevant regions. On large scale datasets this opacity is especially problematic, since inspecting heatmaps one sample at a time cannot scale to thousands of predictions. We propose Relevance Based Model Decision Explainability (ReMoDEx), a framework for systematic, dataset scale assessment of model decision behaviour in image classification. ReMoDEx defines a stepwise pipeline: model inference, target class selection, relevance map generation, heatmap standardisation, similarity based grouping of patterns, cluster level interpretation, and spatial relevance assessment. Local methods GradCAM++, Integrated Gradients, Occlusion Sensitivity, and Layerwise Relevance Propagation are each combined independently with a single global module that summarises an entire set of relevance maps into a few decision strategy clusters, replacing sample by sample inspection with an automatic, scalable summary. To demonstrate ReMoDEx, we applied it to a VGG16 based classifier distinguishing COVID-19, Normal, Lung Opacity, and Viral Pneumonia. The classifier showed stable performance (86.27% test accuracy, 0.9624 test AUC). However, each explainer combined with the global module consistently produced two recurring strategies: central thoracic region decisions and border/corner sensitive decisions, indicating possible shortcut learning that conventional metrics could not reveal. Masked image validation confirmed that model confidence and predicted class changed when central or peripheral regions were occluded. ReMoDEx thus provides a scalable relevance based decision assessment framework and an essential complement to accuracy based evaluation.
• Abstract（参考訳）: ディープラーニング画像分類器は、強い予測性能を達成するが、意思決定の仕方には不透明である。 モデルは、タスク関連の領域ではなく、無関係なキュー、ショートカットアソシエーション、周辺構造、デバイスレベルのアーティファクトに依存しながら、正しく予測することができる。 大規模なデータセットでは、この不透明度は特に問題となる。 画像分類におけるモデル決定行動の系統的・データセットスケール評価のためのフレームワークReMoDEx(Relevance Based Model Decision Explainability)を提案する。 ReMoDExは、モデル推論、ターゲットクラス選択、関連マップ生成、ヒートマップ標準化、パターンの類似性に基づくグループ化、クラスタレベルの解釈、空間関連評価といったステップワイズパイプラインを定義している。 ローカルメソッド GradCAM++、Integrated Gradients、Occlusion Sensitivity、Layerwise Relevance Propagationはそれぞれ独立して、関連マップの集合全体をいくつかの決定戦略クラスタにまとめる単一のグローバルモジュールと結合され、サンプル検査を自動でスケーラブルな要約に置き換える。 ReMoDEx は VGG16 をベースとした COVID-19, Normal, Lung Opacity, Viral Pneumonia を識別する分類器に応用した。 この分類器は安定した性能(86.27%のテスト精度、0.9624のテストAUC)を示した。 しかし、グローバルモジュールと組み合わせることで、中央の胸部領域の決定と境界/角部敏感な決定という2つの戦略が一貫して作り出され、従来のメトリクスが明らかにできなかったショートカット学習の可能性が示唆された。 仮面画像検証では,中心領域や周辺領域が閉鎖された際にモデル信頼度と予測クラスが変化したことが確認された。 これにより、ReMoDExはスケーラブルな関連性に基づく意思決定評価フレームワークを提供し、精度に基づく評価に不可欠な補完を提供する。

関連論文リスト

• A Consensus-Based Framework for Relative Preference Evaluation of Large Language Models [0.0]
  本稿では,絶対的正当性ではなく,モデル生成応答間の相対的嗜好を測定する,コンセンサスに基づく評価フレームワークを提案する。 我々は、プログラミング、一般知識、安全性、論理的推論、数学を含む、複数の領域にわたる最先端のLLMを用いて、制御された研究を行う。 スコアはリレーショナルインテリジェンス指数(RII)に集約され、モデルの反応が他のモデルでどれだけ頻繁に好まれるかを表す。
  論文  参考訳（メタデータ） (2026-07-19T08:59:19Z)
• Semantic Segmentation for Histopathology using Learned Regularization based on Global Proportions [36.19647813139097]
  本稿では,大域比から高密度なセグメンテーションを推定する2段階のフレームワークであるVSLP(Label Proportions)について紹介する。 エンド・ツー・エンドのネットワークとは異なり、我々の変分法はフィデリティ・正則化エネルギーを可視化し、より解釈可能なセグメンテーションをもたらす。 既存の教師なしおよび教師なしの手法よりも優れた性能を達成し、2つの公開データセットに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2026-04-27T11:42:56Z)
• Did Models Sufficient Learn? Attribution-Guided Training via Subset-Selected Counterfactual Augmentation [61.248535801314375]
  Subset-Selected Counterfactual Augmentation (SS-CA) 我々は,モデル予測を選択的に変更可能な最小空間領域集合を識別するために,対実的LIMAを開発した。 実験により,SS-CAは分布内テストデータ(ID)の一般化を改善し,分布外ベンチマーク(OOD)において優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-11-15T08:39:22Z)
• Area under the ROC Curve has the Most Consistent Evaluation for Binary Classification [3.1850615666574806]
  本研究は, 有病率の異なるデータ間でのモデル評価において, 測定値の整合性について検討する。 有病率の影響を受けない評価指標は、個々のモデルの一貫性のある評価と、モデルの集合の一貫性のあるランキングを提供する。
  論文  参考訳（メタデータ） (2024-08-19T17:52:38Z)
• Decom--CAM: Tell Me What You See, In Details! Feature-Level Interpretation via Decomposition Class Activation Map [23.71680014689873]
  クラスアクティベーションマップ(CAM)は、オブジェクトの位置をハイライトすることで深層モデルの予測を解釈するために広く使われている。 本稿では,分解クラス活性化マップ(Decom-CAM)と呼ばれる2段階の解釈可能性を提案する。 実験の結果,提案したDecom-CAMは最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-05-27T14:33:01Z)
• Variable Importance Matching for Causal Inference [73.25504313552516]
  これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。 Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。 LASSO を用いて Model-to-Match フレームワークを運用する。
  論文  参考訳（メタデータ） (2023-02-23T00:43:03Z)
• VAESim: A probabilistic approach for self-supervised prototype discovery [0.23624125155742057]
  条件付き変分オートエンコーダに基づく画像階層化アーキテクチャを提案する。 我々は、連続した潜伏空間を用いて障害の連続を表現し、訓練中にクラスターを見つけ、画像/患者の成層に使用することができる。 本手法は,標準VAEに対して,分類タスクで測定されたkNN精度において,ベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-09-25T17:55:31Z)
• Adaptive Local-Component-aware Graph Convolutional Network for One-shot Skeleton-based Action Recognition [54.23513799338309]
  骨格に基づく行動認識のための適応的局所成分認識グラフ畳み込みネットワークを提案する。 我々の手法はグローバルな埋め込みよりも強力な表現を提供し、我々のモデルが最先端に到達するのに役立ちます。
  論文  参考訳（メタデータ） (2022-09-21T02:33:07Z)
• Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
  局所変換近傍における分類器の出力不変性の尺度を提案する。 私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。 画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
  論文  参考訳（メタデータ） (2022-07-05T14:55:16Z)
• Improving Classification Model Performance on Chest X-Rays through Lung Segmentation [63.45024974079371]
  本稿では, セグメンテーションによる異常胸部X線(CXR)識別性能を向上させるための深層学習手法を提案する。 提案手法は,CXR画像中の肺領域を局所化するための深層ニューラルネットワーク(XLSor)と,大規模CXRデータセットで事前学習した自己教師あり運動量コントラスト(MoCo)モデルのバックボーンを用いたCXR分類モデルである。
  論文  参考訳（メタデータ） (2022-02-22T15:24:06Z)
• Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
  本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。 我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。 その結果,我々のモデルは最先端の性能を達成できることがわかった。
  論文  参考訳（メタデータ） (2020-10-12T03:27:07Z)
• Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
  本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。 実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
  論文  参考訳（メタデータ） (2020-07-30T05:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。