論文の概要: Regional Explanations via Causal Sufficiency and Necessity

• arxiv url: http://arxiv.org/abs/2609.18049v1
• Date: Wed, 16 Sep 2026 02:52:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.6171
• Title: Regional Explanations via Causal Sufficiency and Necessity
• Title（参考訳）: 因果便宜と必然性による地域説明
• Abstract要約: 因果的十分かつ必要な地域説明(SNRE) 本稿では,入力領域$A$と出力領域$B$を学習するフレームワークを提案する。 実験により、SNREは、強力な充足性能、頑健な説明動作、モデル解析のための実用性を備えた領域ペアを学習することを示した。
• 参考スコア（独自算出の注目度）: 27.966768940547137
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Model explainability is essential for understanding and trusting machine learning models. Existing explainable AI methods often explain predictions through feature importance, counterfactual explanations, or rules. However, a region-level characterization of when and only when a prediction behavior arises remains less explored. This paper proposes Causal Sufficient and Necessary Regional Explanations (SNRE), a framework that learns an input region $A$ and output region $B$ such that membership in $A$ is both sufficient and necessary for the model output to fall in $B$. Motivated by the classical Probability of Necessity and Sufficiency (PNS), we formulate a region-level PNS measure through stochastic interventions and derive a differentiable finite-sample estimator for optimization. SNRE parameterizes the input-output region pair with explicit and interpretable algebraic region families, together with a learnable feature mask, balancing expressiveness and interpretability. Experiments demonstrate that SNRE learns region pairs with strong sufficiency-necessity performance, robust explanation behavior, and practical utility for model analysis.
• Abstract（参考訳）: モデル説明責任は、機械学習モデルの理解と信頼に不可欠である。 既存の説明可能なAIメソッドは、しばしば特徴の重要性、反実的説明、ルールを通じて予測を説明する。 しかし,予測行動の発生時期と発生時期の地域レベルの特徴付けはいまだ検討されていない。 本稿では,入力領域$A$と出力領域$B$を学習するフレームワークであるCausal Sufficient and Necessary Regional Explanations (SNRE)を提案する。 古典的なPNS(Probability of Necessity and Sufficiency)により、確率的介入を通じて領域レベルのPNS測度を定式化し、最適化のための微分可能な有限サンプル推定器を導出する。 SNREは、入力出力領域ペアと明示的で解釈可能な代数的領域ファミリ、学習可能な特徴マスク、表現性と解釈可能性のバランスをパラメータ化する。 実験により、SNREは、強力な充足性能、頑健な説明動作、モデル解析のための実用性を備えた領域ペアを学習することを示した。

関連論文リスト

• Generating Intervention Hypotheses using Explainable Explanations on Graphs: G2I, a Two-Stage Greedy Framework [9.74230427221556]
  公衆衛生と社会科学における現実的な意思決定は、予測モデルから恩恵を受けることができる。 予測を効果的な介入に変換するには、モデルの振る舞いを説明する必要があります。 既存の説明手法は、動作可能なネットワークレベルの介入設計をサポートできない。
  論文  参考訳（メタデータ） (2026-08-24T21:23:39Z)
• Informative Perturbation Selection for Uncertainty-Aware Post-hoc Explanations [7.226144684379189]
  信頼と倫理的な懸念は、不透明な機械学習(ML)モデルが広く展開することによるものであり、信頼性のあるモデル説明の必要性を動機付けている。 ポストホックモデルに依存しない説明法は、興味のあるサンプルの局所性においてデプロイされたブラックボックスMLモデルの振る舞いを近似する代理モデルを学ぶことでこの問題に対処する。 本稿では,情報理論の積極的学習問題として摂動選択を定式化する,ポストホックモデルに依存しない説明フレームワークであるemphExpected Active Gain for Local Explanations (textttEAGLE)を提案する。
  論文  参考訳（メタデータ） (2026-03-16T06:48:56Z)
• Did Models Sufficient Learn? Attribution-Guided Training via Subset-Selected Counterfactual Augmentation [61.248535801314375]
  Subset-Selected Counterfactual Augmentation (SS-CA) 我々は,モデル予測を選択的に変更可能な最小空間領域集合を識別するために,対実的LIMAを開発した。 実験により,SS-CAは分布内テストデータ(ID)の一般化を改善し,分布外ベンチマーク(OOD)において優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-11-15T08:39:22Z)
• Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
  正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。 モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
  論文  参考訳（メタデータ） (2025-05-17T00:31:39Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• Human Trajectory Forecasting with Explainable Behavioral Uncertainty [63.62824628085961]
  人間の軌道予測は人間の行動を理解し予測し、社会ロボットから自動運転車への応用を可能にする。 モデルフリー手法は予測精度が優れているが説明可能性に欠ける一方、モデルベース手法は説明可能性を提供するが、よく予測できない。 BNSP-SFMは,11種類の最先端手法と比較して,予測精度を最大50%向上することを示す。
  論文  参考訳（メタデータ） (2023-07-04T16:45:21Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• When Stability meets Sufficiency: Informative Explanations that do not Overwhelm [15.897648942908747]
  入力の分類を正当化するためには、何が最小限に必要かを強調する特徴に基づく属性法を考える。 最小限の充足性は理解性に類似した魅力的な性質であるが、結果として生じる説明は、人間がモデルの局所的な振る舞いを理解して評価するには不十分であることが多い。 本稿では,与えられた入力に対して,安定かつ十分な説明のシーケンスを出力するPSEM(Path-Sufficient Explanations Method)を提案する。
  論文  参考訳（メタデータ） (2021-09-13T16:06:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。