論文の概要: Position: Explainable AI is Causality in Disguise

• arxiv url: http://arxiv.org/abs/2603.28597v1
• Date: Mon, 30 Mar 2026 15:44:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.493896
• Title: Position: Explainable AI is Causality in Disguise
• Title（参考訳）: 説明可能なAIはDguiseの因果関係
• Authors: Amir-Hossein Karimi,
• Abstract要約: 説明可能なAI(XAI)の需要が急増している。 しかし、基本的な課題は、メトリクスの矛盾、健全性チェックの失敗、堅牢性と公正性に関する未解決の議論である。 この立場紙は、XAIにおける永続的不協和は、欠落した根本真理からではなく、存在する根本真理から生じていることを示唆している。
• 参考スコア（独自算出の注目度）: 6.269377544160701
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The demand for Explainable AI (XAI) has triggered an explosion of methods, producing a landscape so fragmented that we now rely on surveys of surveys. Yet, fundamental challenges persist: conflicting metrics, failed sanity checks, and unresolved debates over robustness and fairness. The only consensus on how to achieve explainability is a lack of one. This has led many to point to the absence of a ground truth for defining ``the'' correct explanation as the main culprit. This position paper posits that the persistent discord in XAI arises not from an absent ground truth but from a ground truth that exists, albeit as an elusive and challenging target: the causal model that governs the relevant system. By reframing XAI queries about data, models, or decisions as causal inquiries, we prove the necessity and sufficiency of causal models for XAI. We contend that without this causal grounding, XAI remains unmoored. Ultimately, we encourage the community to converge around advanced concept and causal discovery to escape this entrenched uncertainty.
• Abstract（参考訳）: 説明可能なAI(XAI)の需要は、メソッドの爆発を引き起こし、非常に断片化された風景を生み出し、現在調査に頼っている。 しかし、基本的な課題は、メトリクスの矛盾、健全性チェックの失敗、堅牢性と公正性に関する未解決の議論である。 説明可能性を実現する方法に関する唯一のコンセンサスは、それの欠如である。 このため、多くの者は『the』の正しい説明を主犯として定義する根拠の真理が存在しないことを指摘している。 このポジションペーパーは、XAIにおける永続的不協和は、欠落した根本真理ではなく、実在する根本真理から生じるものであると仮定している。 データ、モデル、決定に関するXAIクエリを因果関係として再検討することにより、XAIの因果関係モデルの必要性と十分性を証明する。 我々は、この因果的根拠がなければ、XAIはいまだに無秩序であると主張する。 最終的に私たちは、この不確実性から逃れるために、先進的な概念と因果発見にコミュニティが収束することを奨励します。

関連論文リスト

• Beyond Explainable AI (XAI): An Overdue Paradigm Shift and Post-XAI Research Directions [95.59915390053588]
  本研究では、ディープニューラルネットワーク(DNN)と大規模言語モデル(LLM)に焦点をあてる、説明可能な人工知能(XAI)アプローチに焦点を当てる。 より深い根本原因に起因する致命的な症状(2つのパラドックス、2つの概念的混乱、5つの誤った仮定)について論じる。 XAIの限界を超えて、信頼性と認定されたAI開発に向けた4つのパラダイムシフトを提案する。
  論文  参考訳（メタデータ） (2026-02-27T16:58:27Z)
• Learning the Boundary of Solvability: Aligning LLMs to Detect Unsolvable Problems [51.62477754641947]
  本研究では,実現可能な問題を解き,固有の矛盾を検知し,能力を超えたタスクを慎重に拒否するUnsolvableQAとUnsolvableRLを提案する。 具体的には、双トラック手法を用いて導出される、ペアで解決可能かつ解決不可能なインスタンスのデータセットであるUnsolvableQAを構築する。 このデータセット上に構築されたUnsolvableRLは,精度,未解決性,難易度を考慮した3つの報酬成分を備えた強化学習フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T13:32:59Z)
• Dataset | Mindset = Explainable AI | Interpretable AI [36.001670039529586]
  機械学習(ML)の出力を支える理由を説明するために、与えられたデータセットにさまざまなXAIツールを適用すると、"説明可能な"人工知能(XAI)と"解釈可能なAI(IAI)"が相反する。 我々は、XAIは、IAIのサブセットであると主張する。IAIの概念はデータセットの範囲を超えており、思考の領域を含んでいる。 我々は、これらの概念を明確にし、将来のAI応用と研究における多くの実践者や政策立案者に対して、XAI、IAI、EAI、TAIの基礎を築いたいと考えています。
  論文  参考訳（メタデータ） (2024-08-22T14:12:53Z)
• Position: Explain to Question not to Justify [17.79812812111111]
  説明可能な人工知能(XAI)は有望な研究分野である。 我々はXAI領域内で絡み合った様々なスレッドを、人間/価値指向の説明の相補的な2つの文化に分けた。 RED XAIの領域は、AIシステムの安全性を確保するために必要な重要な研究の機会と可能性を秘めている。
  論文  参考訳（メタデータ） (2024-02-21T16:30:24Z)
• The role of causality in explainable artificial intelligence [1.049712834719005]
  因果性(Causality)とeXplainable Artificial Intelligence(XAI)は、コンピュータ科学の別分野として開発された。 文献を調査し,どの程度因果関係とXAIが絡み合っているかを理解する。
  論文  参考訳（メタデータ） (2023-09-18T16:05:07Z)
• Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs [55.66353783572259]
  Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
  論文  参考訳（メタデータ） (2023-08-23T04:59:21Z)
• Attacking Open-domain Question Answering by Injecting Misinformation [116.25434773461465]
  質問応答モデル(QA)に対する誤報のリスクについて,オープンドメインQAモデルの誤報文書に対する感度について検討した。 実験により、QAモデルは誤情報による少量の証拠汚染に対して脆弱であることが示されている。 質問応答と誤情報検出を統合した誤情報認識型QAシステムの構築の必要性について論じる。
  論文  参考訳（メタデータ） (2021-10-15T01:55:18Z)
• Making Things Explainable vs Explaining: Requirements and Challenges under the GDPR [2.578242050187029]
  ExplanatorY AI(YAI)はXAI上に構築され、説明可能な情報の収集と整理を目的としている。 本稿では,自動意思決定システム(ADM)について,説明空間上の適切な経路を特定するための説明を生成する問題について述べる。
  論文  参考訳（メタデータ） (2021-10-02T08:48:47Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。