論文の概要: Position: Explainable AI is Causality in Disguise

• arxiv url: http://arxiv.org/abs/2603.28597v1
• Date: Mon, 30 Mar 2026 15:44:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.493896
• Title: Position: Explainable AI is Causality in Disguise
• Title（参考訳）: 説明可能なAIはDguiseの因果関係
• Abstract要約: 説明可能なAI(XAI)の需要が急増している。 しかし、基本的な課題は、メトリクスの矛盾、健全性チェックの失敗、堅牢性と公正性に関する未解決の議論である。 この立場紙は、XAIにおける永続的不協和は、欠落した根本真理からではなく、存在する根本真理から生じていることを示唆している。
• 参考スコア（独自算出の注目度）: 6.269377544160701
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The demand for Explainable AI (XAI) has triggered an explosion of methods, producing a landscape so fragmented that we now rely on surveys of surveys. Yet, fundamental challenges persist: conflicting metrics, failed sanity checks, and unresolved debates over robustness and fairness. The only consensus on how to achieve explainability is a lack of one. This has led many to point to the absence of a ground truth for defining ``the'' correct explanation as the main culprit. This position paper posits that the persistent discord in XAI arises not from an absent ground truth but from a ground truth that exists, albeit as an elusive and challenging target: the causal model that governs the relevant system. By reframing XAI queries about data, models, or decisions as causal inquiries, we prove the necessity and sufficiency of causal models for XAI. We contend that without this causal grounding, XAI remains unmoored. Ultimately, we encourage the community to converge around advanced concept and causal discovery to escape this entrenched uncertainty.
• Abstract（参考訳）: 説明可能なAI(XAI)の需要は、メソッドの爆発を引き起こし、非常に断片化された風景を生み出し、現在調査に頼っている。 しかし、基本的な課題は、メトリクスの矛盾、健全性チェックの失敗、堅牢性と公正性に関する未解決の議論である。 説明可能性を実現する方法に関する唯一のコンセンサスは、それの欠如である。 このため、多くの者は『the』の正しい説明を主犯として定義する根拠の真理が存在しないことを指摘している。 このポジションペーパーは、XAIにおける永続的不協和は、欠落した根本真理ではなく、実在する根本真理から生じるものであると仮定している。 データ、モデル、決定に関するXAIクエリを因果関係として再検討することにより、XAIの因果関係モデルの必要性と十分性を証明する。 我々は、この因果的根拠がなければ、XAIはいまだに無秩序であると主張する。 最終的に私たちは、この不確実性から逃れるために、先進的な概念と因果発見にコミュニティが収束することを奨励します。

関連論文リスト

• Causal Scaffolding for Physical Reasoning: A Benchmark for Causally-Informed Physical World Understanding in VLMs [49.55219052565761]
  CausalPhysは、知覚、予測、介入、目標指向という4つの領域にまたがる、ビデオと画像に基づく3000以上の慎重にキュレートされた質問のベンチマークである。 各質問は、専門家がアノテートした因果グラフがオブジェクト・属性・イベントの依存関係をキャプチャし、因果理解の解釈可能かつきめ細かい評価を可能にする。 これに基づいて、モデルの連鎖推論が正しい因果関係とどの程度うまく一致しているかを定量的に測定する因果グラフ基底計量を定式化する。 本稿では,CRFT(Causal Rationale-informed Fine-Tuning)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T10:07:05Z)
• Explainable AI Isn't Enough! Rethinking Algorithmic Contestability [3.135152720206845]
  本稿では,会話の自然な補完として,競争可能性の運用的定義を提案する。 我々は,意思決定者の倫理基準に従って,逆転を保証している3種類の証拠を同定する。 これらの決定は規範的に無防備であり、競争に成功している、と我々は主張する。
  論文  参考訳（メタデータ） (2026-05-15T15:14:13Z)
• Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
  公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。 本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
  論文  参考訳（メタデータ） (2026-05-04T14:26:28Z)
• Pause or Fabricate? Training Language Models for Grounded Reasoning [50.104657152302956]
  不完全情報に基づくグラウンドド推論のために,対話型強化学習(GRIL)によるグラウンドド推論を提案する。 GRILは推論プロセスを2つの段階に分解する: 明確化と一時停止、利用可能な情報が十分かどうかを識別する。 GSM8K-InsufficientおよびMetaMATH-Insufficientの実験では、GRILは前提検出を大幅に改善し(最大45%)、平均応答長を20%以上削減しながらタスク成功率が30%向上した。
  論文  参考訳（メタデータ） (2026-04-21T16:45:29Z)
• Beyond Explainable AI (XAI): An Overdue Paradigm Shift and Post-XAI Research Directions [95.59915390053588]
  本研究では、ディープニューラルネットワーク(DNN)と大規模言語モデル(LLM)に焦点をあてる、説明可能な人工知能(XAI)アプローチに焦点を当てる。 より深い根本原因に起因する致命的な症状(2つのパラドックス、2つの概念的混乱、5つの誤った仮定)について論じる。 XAIの限界を超えて、信頼性と認定されたAI開発に向けた4つのパラダイムシフトを提案する。
  論文  参考訳（メタデータ） (2026-02-27T16:58:27Z)
• Learning the Boundary of Solvability: Aligning LLMs to Detect Unsolvable Problems [51.62477754641947]
  本研究では,実現可能な問題を解き,固有の矛盾を検知し,能力を超えたタスクを慎重に拒否するUnsolvableQAとUnsolvableRLを提案する。 具体的には、双トラック手法を用いて導出される、ペアで解決可能かつ解決不可能なインスタンスのデータセットであるUnsolvableQAを構築する。 このデータセット上に構築されたUnsolvableRLは,精度,未解決性,難易度を考慮した3つの報酬成分を備えた強化学習フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T13:32:59Z)
• Dataset | Mindset = Explainable AI | Interpretable AI [36.001670039529586]
  機械学習(ML)の出力を支える理由を説明するために、与えられたデータセットにさまざまなXAIツールを適用すると、"説明可能な"人工知能(XAI)と"解釈可能なAI(IAI)"が相反する。 我々は、XAIは、IAIのサブセットであると主張する。IAIの概念はデータセットの範囲を超えており、思考の領域を含んでいる。 我々は、これらの概念を明確にし、将来のAI応用と研究における多くの実践者や政策立案者に対して、XAI、IAI、EAI、TAIの基礎を築いたいと考えています。
  論文  参考訳（メタデータ） (2024-08-22T14:12:53Z)
• Position: Explain to Question not to Justify [17.79812812111111]
  説明可能な人工知能(XAI)は有望な研究分野である。 我々はXAI領域内で絡み合った様々なスレッドを、人間/価値指向の説明の相補的な2つの文化に分けた。 RED XAIの領域は、AIシステムの安全性を確保するために必要な重要な研究の機会と可能性を秘めている。
  論文  参考訳（メタデータ） (2024-02-21T16:30:24Z)
• The role of causality in explainable artificial intelligence [1.049712834719005]
  因果性(Causality)とeXplainable Artificial Intelligence(XAI)は、コンピュータ科学の別分野として開発された。 文献を調査し,どの程度因果関係とXAIが絡み合っているかを理解する。
  論文  参考訳（メタデータ） (2023-09-18T16:05:07Z)
• Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs [55.66353783572259]
  Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
  論文  参考訳（メタデータ） (2023-08-23T04:59:21Z)
• Attacking Open-domain Question Answering by Injecting Misinformation [116.25434773461465]
  質問応答モデル(QA)に対する誤報のリスクについて,オープンドメインQAモデルの誤報文書に対する感度について検討した。 実験により、QAモデルは誤情報による少量の証拠汚染に対して脆弱であることが示されている。 質問応答と誤情報検出を統合した誤情報認識型QAシステムの構築の必要性について論じる。
  論文  参考訳（メタデータ） (2021-10-15T01:55:18Z)
• Making Things Explainable vs Explaining: Requirements and Challenges under the GDPR [2.578242050187029]
  ExplanatorY AI(YAI)はXAI上に構築され、説明可能な情報の収集と整理を目的としている。 本稿では,自動意思決定システム(ADM)について,説明空間上の適切な経路を特定するための説明を生成する問題について述べる。
  論文  参考訳（メタデータ） (2021-10-02T08:48:47Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。