論文の概要: From What Ifs to Insights: Counterfactuals in Causal Inference vs. Explainable AI

• arxiv url: http://arxiv.org/abs/2505.13324v1
• Date: Mon, 19 May 2025 16:34:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-20 14:57:11.737114
• Title: From What Ifs to Insights: Counterfactuals in Causal Inference vs. Explainable AI
• Title（参考訳）: Ifs to Insights: 因果推論と説明可能なAIの対決
• Authors: Galit Shmueli, David Martens, Jaewon Yoo, Travis Greene,
• Abstract要約: 因果推論(CI)と説明可能な人工知能(XAI)の2つの異なるデータサイエンス分野において、カウンターファクトリーは重要な役割を果たす 本稿では,CI と XAI におけるカウンターファクトの多面的概念を包含する形式的定義を導入する。 私たちは、CI対XAIでカウンターファクトアルがどのように使われ、評価され、生成され、運用されているかについて議論し、概念的および実践的な違いを強調します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Counterfactuals play a pivotal role in the two distinct data science fields of causal inference (CI) and explainable artificial intelligence (XAI). While the core idea behind counterfactuals remains the same in both fields--the examination of what would have happened under different circumstances--there are key differences in how they are used and interpreted. We introduce a formal definition that encompasses the multi-faceted concept of the counterfactual in CI and XAI. We then discuss how counterfactuals are used, evaluated, generated, and operationalized in CI vs. XAI, highlighting conceptual and practical differences. By comparing and contrasting the two, we hope to identify opportunities for cross-fertilization across CI and XAI.
• Abstract（参考訳）: 因果推論(CI)と説明可能な人工知能(XAI)の2つの異なるデータサイエンス分野において、カウンターファクトリーは重要な役割を果たす。 カウンターファクトアルの背景にある中核的な考え方は、どちらの分野でも同じであり、異なる状況下で何が起こったかを調べることは、それらがどのように使われ、解釈されるかにおいて重要な違いである。 本稿では,CI と XAI におけるカウンターファクトの多面的概念を包含する形式的定義を導入する。 続いて、CI対XAIでカウンターファクトが使われ、評価され、生成され、運用されているかについて議論し、概念的および実践的な違いを強調します。 この2つを比較して比較することで、CIとXAIをまたいで交配する機会を特定したいと思っています。

関連論文リスト

• The Cognitive Revolution in Interpretability: From Explaining Behavior to Interpreting Representations and Algorithms [3.3653074379567096]
  機械的解釈可能性(MI)は、大きな言語モデルのような基礎モデルによって学習された特徴と暗黙のアルゴリズムを研究する別の研究領域として登場した。 我々は、20世紀の心理学における「認知革命」を反映した深層学習解釈の移行を促進するために、現在の手法が熟していると論じる。 計算神経科学におけるキーパラレルを反映した分類法を提案し,MI研究の2つの幅広いカテゴリについて述べる。
  論文  参考訳（メタデータ） (2024-08-11T20:50:16Z)
• Take A Step Back: Rethinking the Two Stages in Visual Reasoning [57.16394309170051]
  本稿では2段階の視点で視覚的推論を再考する。 共有アナライザを使用しながら、異なるデータドメイン用の分離エンコーダによるシンボル化を実装する方が効率的である。 提案する2段階のフレームワークは,様々な視覚的推論タスクにおいて,印象的な一般化を実現する。
  論文  参考訳（メタデータ） (2024-07-29T02:56:19Z)
• The role of causality in explainable artificial intelligence [1.049712834719005]
  因果性(Causality)とeXplainable Artificial Intelligence(XAI)は、コンピュータ科学の別分野として開発された。 文献を調査し,どの程度因果関係とXAIが絡み合っているかを理解する。
  論文  参考訳（メタデータ） (2023-09-18T16:05:07Z)
• How Do Transformers Learn Topic Structure: Towards a Mechanistic Understanding [56.222097640468306]
  我々は、トランスフォーマーが「意味構造」を学ぶ方法の機械的理解を提供する 数学的解析とウィキペディアデータの実験を組み合わせることで、埋め込み層と自己保持層がトピック構造をエンコードしていることを示す。
  論文  参考訳（メタデータ） (2023-03-07T21:42:17Z)
• A Means-End Account of Explainable Artificial Intelligence [0.0]
  XAIは機械学習の手法について不透明な説明を求めている。 著者は、説明すべきもの(トピック)、説明すべきもの(ステークホルダ)、説明すべきもの(インストラクション)、説明すべきもの(ゴール)について意見が一致しない。
  論文  参考訳（メタデータ） (2022-08-09T09:57:42Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。