論文の概要: Taking the Whys Seriously: Limitations of Counterfactual Explanations in Justification and Recourse

• arxiv url: http://arxiv.org/abs/2608.30956v1
• Date: Mon, 31 Aug 2026 15:24:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.478989
• Title: Taking the Whys Seriously: Limitations of Counterfactual Explanations in Justification and Recourse
• Title（参考訳）: 真に考える:正当化と言説における非現実的説明の限界
• Abstract要約: 対物的説明(CE)は説明可能な人工知能(AI)に広く使われている 本稿では, 実生活モデル配置設定において, カウンターファクトアルを用いた場合の規範的正当性について検討する。 正当化とリコースのためのCEの素直な適用は、機械学習(ML)パイプライン全体を通してなされた競合可能な選択を無視してしまう可能性があることに気付きました。
• 参考スコア（独自算出の注目度）: 4.001780301402232
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Counterfactual explanations (CEs) are widely used in explainable artificial intelligence (AI) to show how a model's outputs would change if the input features were manipulated. This technique is used for a range of tasks such as debugging models, explaining predictions, justifying decisions, and providing algorithmic recourse. In this paper, we explore the normative legitimacy of employing counterfactuals in real-life model deployment settings. We discuss the different stakes involved in these different purposes for which CEs are commonly employed, and find stricter requirements for justification and recourse. In particular, we find that naive application of CEs for justification and recourse can lead to ignoring contestable choices made throughout the machine learning (ML) pipeline, thus obfuscating that decisions and counterfactuals for those decisions are also artifacts of an organization's materialized design and governance choices. We demonstrate this with four empirical experiments involving interventions at stages of the ML pipeline ``upstream" of the explanation itself, and show that these affect the generated counterfactuals. We find that an organization's choices on measurement models for feature and labels, business requirements, model validation, and the metric of model success have as much or more impact on the generated counterfactuals as the specifics of the generating method. Our findings underline the need to account for such choices upon providing justification and recourse, providing a stark reminder of the relational nature of these tasks. As putative justifications or recourse recommendations, CEs do not provide adequate answers to some important "why"-questions because they preclude consideration of whether the decision-maker ought to have acted differently.
• Abstract（参考訳）: 対物的説明(CE)は、入力特徴が操作された場合、モデルの出力がどのように変化するかを示すために、説明可能な人工知能(AI)で広く使われている。 このテクニックは、モデルデバッグ、予測の説明、決定の正当化、アルゴリズムによる会話の提供など、さまざまなタスクに使用される。 本稿では,実生活モデル配置設定において,反事実を用いた場合の規範的正当性について検討する。 我々は、CEが一般的に採用されるこれらの異なる目的にかかわる異なる利害関係について論じ、正当化と議論のためのより厳格な要件を見出す。 特に、正当化とレコメンデーションのためのCEの素直な適用は、マシンラーニング(ML)パイプライン全体を通じてなされる競合可能な選択を無視してしまう可能性があるため、意思決定と反事実は、組織の実体化された設計とガバナンスの選択肢の成果物でもある、ということが分かりました。 本稿では、MLパイプラインの「アップストリーム」の段階での介入に関する実証実験を4回実施し、これらが生成されたカウンターファクトに影響を及ぼすことを示すとともに、特徴およびラベル、ビジネス要件、モデル検証、およびモデル成功の指標に関する組織の選択が、生成方法の具体例と同様に、生成したカウンターファクトの指標に大きく、あるいはそれ以上の影響があることを実証する。この結果は、これらのタスクのリレーショナルな性質を深く反映し、これらのタスクのリレーショナルな性質を思い起こさせる必要性を浮き彫りにするものである。

関連論文リスト

• Counterfactual Explanations and the Scope of Contestability [0.0]
  本稿では,特定の知識の提供によってエージェンシーを復活させる方法について述べる。 我々は、特定のタイプの説明、反事実的説明が、アルゴリズム決定に異議を唱える能力を促進するかどうかを論じる。
  論文  参考訳（メタデータ） (2026-08-25T13:45:16Z)
• DecisionFlow: Advancing Large Language Model as Principled Decision Maker [49.088778182807395]
  DecisionFlowは、モデルにアクション、属性、制約の構造化された表現を推論するように誘導する、新しい決定モデリングフレームワークである。 プロンプトから直接回答を予測するのではなく、DecisionFlowは意味論的に根拠のある決定空間を構築し、潜在ユーティリティ関数を推論する。 実験の結果,DecisionFlowの精度は,強いプロンプトベースラインよりも最大30%向上した。
  論文  参考訳（メタデータ） (2025-05-27T16:23:53Z)
• Efficient Inference for Large Reasoning Models: A Survey [74.17203483365171]
  LRM(Large Reasoning Models)は、Large Language Models(LLM)の推論能力を大幅に向上させる。 しかし、それらの熟考的推論プロセスはトークンの使用、メモリ消費、推論時間に非効率をもたらす。 本調査では, LRMに特化して設計された効率的な推論手法を概説し, 推論品質を維持しつつトークンの非効率を緩和することに着目した。
  論文  参考訳（メタデータ） (2025-03-29T13:27:46Z)
• Refining Counterfactual Explanations With Joint-Distribution-Informed Shapley Towards Actionable Minimality [6.770853093478073]
  対実的説明(CE)は、観測データによく似ているが、異なる機械学習(ML)モデル出力を生成するデータポイントを特定する。 既存のCEメソッドは、説明に含まれる不要な特徴の変化のため、実行可能効率が欠如していることが多い。 本稿では,CEの有効性を維持しつつ,必要な特徴変化を最小限に抑える手法を提案する。
  論文  参考訳（メタデータ） (2024-10-07T18:31:19Z)
• Demystifying Reinforcement Learning in Production Scheduling via Explainable AI [0.7515066610159392]
  深層強化学習(Dep Reinforcement Learning, DRL)はスケジューリング問題の解法としてよく用いられる手法である。 DRLエージェントは、短い計算時間で実行可能な結果を提供するのが得意だが、その推論はいまだに不透明である。 フロー生産における特殊DRLエージェントのスケジューリング決定の背後にある理由を説明するために,2つの説明可能なAI(xAI)フレームワークを適用した。
  論文  参考訳（メタデータ） (2024-08-19T09:39:01Z)
• CFGs: Causality Constrained Counterfactual Explanations using goal-directed ASP [1.5749416770494706]
  本稿では,CFG(CounterFactual Generation with s(CASP)を提案する。このフレームワークは,目標指向のAnswer Set Programming(ASP)システムs(CASP)を利用して,デファクトな説明を自動的に生成する。 CFGがこれらの世界、すなわち、望ましくない結果を得る最初の状態から、望まれる決定を得る想像された目標状態へどのようにナビゲートするかを示す。
  論文  参考訳（メタデータ） (2024-05-24T21:47:58Z)
• Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
  大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。 本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。 さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。 これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
  論文  参考訳（メタデータ） (2024-04-08T14:15:56Z)
• Introducing User Feedback-based Counterfactual Explanations (UFCE) [49.1574468325115]
  対実的説明(CE)は、XAIで理解可能な説明を生成するための有効な解決策として浮上している。 UFCEは、アクション可能な機能のサブセットで最小限の変更を決定するために、ユーザー制約を含めることができる。 UFCEは、textitproximity(英語版)、textitsparsity(英語版)、textitfeasibility(英語版)の2つのよく知られたCEメソッドより優れている。
  論文  参考訳（メタデータ） (2024-02-26T20:09:44Z)
• Leaving the Nest: Going Beyond Local Loss Functions for Predict-Then-Optimize [57.22851616806617]
  本手法は,文献から得られた4つの領域において,最先端の成果が得られることを示す。 提案手法は, 局所性仮定が破られた場合, 既存手法よりも200%近く性能が向上する。
  論文  参考訳（メタデータ） (2023-05-26T11:17:45Z)
• In Search of Insights, Not Magic Bullets: Towards Demystification of the Model Selection Dilemma in Heterogeneous Treatment Effect Estimation [92.51773744318119]
  本稿では,異なるモデル選択基準の長所と短所を実験的に検討する。 選択戦略,候補推定器,比較に用いるデータの間には,複雑な相互作用があることを強調した。
  論文  参考訳（メタデータ） (2023-02-06T16:55:37Z)
• Decomposing Counterfactual Explanations for Consequential Decision Making [11.17545155325116]
  我々は、IMFと強い因果的前提の間のギャップを埋める、新しく実践的な枠組みを開発する。 textttは、共変特徴の潜在表現をアンタングルすることで、recoursesを生成する。 実世界のデータに関する我々の実験は、理論上動機づけられたリコースモデルと相関し、信頼性と低コストのリコースを提供するフレームワークの能力を強調します。
  論文  参考訳（メタデータ） (2022-11-03T21:26:55Z)
• Prescriptive Machine Learning for Automated Decision Making: Challenges and Opportunities [0.0]
  機械学習(ML)の最近の応用は、予測モデリングでの使用から、規範モデリングでの使用への顕著なシフトを明らかにしている。 規範的モデリングには、学習のための新しい技術条件と、信頼性、責任、意思決定の倫理に関する新しい要求が伴う。 合理的かつ同時に責任ある方法で行動する意思決定エージェントのデータ駆動設計を支援するためには、規範的MLの厳密な方法論的基礎が必要である。
  論文  参考訳（メタデータ） (2021-12-15T17:02:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。