論文の概要: Assessing Alignment and Stability of Feature Importance Explanations via Weight of Evidence

• arxiv url: http://arxiv.org/abs/2609.00090v2
• Date: Mon, 07 Sep 2026 13:13:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-09 22:37:20.327044
• Title: Assessing Alignment and Stability of Feature Importance Explanations via Weight of Evidence
• Title（参考訳）: 証拠の重みによる特徴重要度説明のアライメントと安定性の評価
• Abstract要約: 特徴重要度法(FIM)は、モデル予測を解釈するために説明可能なAIで広く用いられている。 We introduce a novel perspective by embedded FIMs in a hypothesis-testing framework based on Weight of Evidence (WoE)。 我々は、観察された証拠が特徴的重要性に関する任意の仮説をどれだけ強く支持するかを定量化する。
• 参考スコア（独自算出の注目度）: 0.7270566881683284
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Feature importance Methods (FIMs) are widely used in Explainable AI to interpret model predictions, yet attribution scores alone often provide limited insight into the underlying reasoning process. In this work, we introduce a novel perspective by embedding FIMs within a hypothesis-testing framework based on Weight of Evidence (WoE). We quantify how strongly the observed evidence supports any given hypothesis on feature importance. The reference hypothesis can stem from domain knowledge, ground truth, or be derived from the FIM itself. This formulation enables a principled evaluation of FIMs, capturing both their alignment with prior knowledge and their variability. We further provide theoretical results linking WoE to attribution variance. Empirical results shows the applicability and flexibility of our strategy analyzing LIME and SHAP explanations in settings with different reference hypotheses. Overall, our framework offers a complementary tool for assessing FIMs through a contrastive, evidence-based lens.
• Abstract（参考訳）: 特徴重要度法(FIM)は、モデル予測を解釈するために説明可能なAIで広く使われているが、帰属スコアだけでは、基礎となる推論プロセスに関する限られた洞察を与えることが多い。 本研究では, 仮説検証フレームワークにFIMを組み込むことにより, ウェイト・オブ・エビデンス(WoE)に基づく新たな視点を導入する。 我々は、観察された証拠が特徴的重要性に関する任意の仮説をどれだけ強く支持するかを定量化する。 参照仮説は、ドメイン知識、基礎的真理、あるいはFIM自体から導出されるものである。 この定式化により、FIMの原理的評価が可能となり、事前知識との整合性と多様性の両方を捉えることができる。 さらに、WoEを帰属分散にリンクする理論的結果を提供する。 実験結果から, LIME と SHAP の説明を異なる参照仮説で解析する手法の適用性と柔軟性が示唆された。 全体として、我々のフレームワークは、対照的なエビデンスベースのレンズを通してFIMを評価するための補完ツールを提供する。

関連論文リスト

• Evaluating and Improving Evidence-Grounded Fact-Checking in LLMs via Multi-Round Evidence Ablation [28.999694748110404]
  市販のファクトチェックシステムは、提供された証拠よりもパラメトリックな知識に依存していることを示す。 本稿では,証拠に依存した検証を促進するトレーニングフレームワークであるREAL(Rigorous Evidence Ablation Learning)を提案する。 以上の結果から,強い事実チェック性能と弱い証拠依存性が共存する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-09-08T16:04:20Z)
• Explanation Multiplicity in SHAP: Characterization and Assessment [28.413883186555438]
  ポストホックの説明は、貸付、雇用、医療といった高額な領域における自動決定を正当化し、議論し、レビューするために広く使われている。 しかし、実際にSHAPの説明は、個人、予測タスク、訓練されたモデルが固定された場合でも、繰り返し実行される間に大きく異なる可能性がある。 我々は、この現象の説明多重性の概念と命名、すなわち、同じ決定に対して複数の、内部的に有効な、実質的に異なる説明が存在すること。
  論文  参考訳（メタデータ） (2026-01-19T02:01:18Z)
• Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
  この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。 第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。 第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
  論文  参考訳（メタデータ） (2025-02-11T19:24:09Z)
• Understanding Multimodal LLMs Under Distribution Shifts: An Information-Theoretic Approach [33.463823493423554]
  マルチモーダルな大言語モデル(MLLM)は期待できる能力を示しているが、分散シフトの下では苦労している。 MLLMの安全性と信頼性を確保するためには,MLLMのリスクを特徴づけ定量化できる形式的枠組みの確立が必要であると論じる。
  論文  参考訳（メタデータ） (2025-02-01T22:06:56Z)
• A Semiparametric Approach to Causal Inference [2.092897805817524]
  因果推論において、重要な問題は介入や治療の効果を定量化することである。 本稿では, 半パラメトリック密度比モデル(DRM)を用いて, 対物分布の特徴付けを行う。 我々のモデルは、対物分布に関する厳密なパラメトリック仮定を避けることで柔軟性を提供する。
  論文  参考訳（メタデータ） (2024-11-01T18:03:38Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)
• Goodhart's Law Applies to NLP's Explanation Benchmarks [57.26445915212884]
  ERASER(Comprehensiveness and sufficiency)メトリクスとEVAL-X(EVAL-X)メトリクスの2つのセットを批判的に検討する。 実験結果の予測や説明を変えることなく,モデル全体の包括性と充足率を劇的に向上させることができることを示す。 我々の結果は、現在のメトリクスが説明可能性の研究をガイドする能力に疑問を呈し、これらのメトリクスが正確に捉えるものを再評価する必要性を強調します。
  論文  参考訳（メタデータ） (2023-08-28T03:03:03Z)
• On the Joint Interaction of Models, Data, and Features [82.60073661644435]
  本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。 これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。 この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
  論文  参考訳（メタデータ） (2023-06-07T21:35:26Z)
• Uncertain Evidence in Probabilistic Models and Stochastic Simulators [80.40110074847527]
  我々は、不確実性を伴う観測を伴う確率論的モデルにおいて、ベイズ的推論を行うという問題について考察する。 我々は、不確実な証拠をどう解釈するかを探求し、潜伏変数の推論に関連する適切な解釈の重要性を拡大する。 我々は、不確実な証拠を説明するための具体的なガイドラインを考案し、特に一貫性に関する新しい洞察を提供する。
  論文  参考訳（メタデータ） (2022-10-21T20:32:59Z)
• Inherent Inconsistencies of Feature Importance [6.02357145653815]
  特徴重要度は、予測結果に対する個々の特徴の寄与にスコアを割り当てる手法である。 本稿では,特徴重要度スコアの異なる文脈間のコヒーレントな関係を確立するために設計された公理的枠組みを提案する。
  論文  参考訳（メタデータ） (2022-06-16T14:21:51Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。