論文の概要: Fundamental Limitation in Explaining AI

• arxiv url: http://arxiv.org/abs/2605.24727v2
• Date: Sun, 31 May 2026 11:58:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 18:24:16.334109
• Title: Fundamental Limitation in Explaining AI
• Title（参考訳）: 説明AIの基本限界
• Authors: Atsushi Suzuki, Jing Wang,
• Abstract要約: 我々は、AIの説明において、AIとその説明が次の4つの条件を同時に満たすことができないことを明確にする。 四重項は、AIガバナンスは、AI説明の忠実さは常に不完全である、という前提で設計されるべきであることを示している。
• 参考スコア（独自算出の注目度）: 4.405551654403497
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While large-scale models such as LLMs and diffusion models have achieved practical success, public institutions have emphasized the importance of explainability in AI. Existing methods for explaining AI, however, are not designed to provide completely faithful explanations of the behavior of large-scale AI systems. Although a completely faithful and interpretable explanation of the behavior of an AI system might be useful for AI governance, it has not been known whether providing such an explanation is theoretically possible. In this paper, we mathematically prove a fundamental quadrilemma in explaining AI, stating that AI and its explanation cannot satisfy the following four conditions simultaneously: 1) the complexity of the operation environment, 2) the goodness of the AI's performance, 3) the interpretability of the AI's explanation, and 4) the complete faithfulness of the AI's explanation. This quadrilemma suggests that, in most applications where we cannot change the environment or sacrifice good AI performance and an interpretable explanation, we should give up complete faithfulness of explanations and should instead aim to explain only the parts that are important for applications. As a consequence, the quadrilemma implies that AI governance should be designed on the premise that the faithfulness of AI explanations is always incomplete.
• Abstract（参考訳）: LLMや拡散モデルのような大規模モデルは実用的に成功しているが、公共機関はAIにおける説明可能性の重要性を強調している。 しかし、AIを説明する既存の方法は、大規模なAIシステムの振る舞いを完全に忠実に説明するためのものではない。 AIシステムの振る舞いを完全に忠実かつ解釈可能な説明は、AIガバナンスに役立つかもしれないが、そのような説明を提供することが理論的に可能であるかどうかは分かっていない。 本稿では,AIの説明において基礎的な二次構造を数学的に証明し,AIとその説明が次の4つの条件を同時に満たすことができないことを述べる。 1)運用環境の複雑さ。 2)AIのパフォーマンスの良さ。 3)AIの説明の解釈可能性、及び 4)AIの説明の完全忠実性。 この四面体は、環境を変更したり、優れたAIパフォーマンスを犠牲にしたり、解釈可能な説明をしたりすることができないほとんどのアプリケーションでは、説明の完全な忠実さを諦めるべきであり、代わりにアプリケーションにとって重要な部分のみを説明することを目指していることを示唆している。 結果として、四重項は、AI説明の忠実さは常に不完全であるという前提で、AIガバナンスを設計すべきであることを示している。

関連論文リスト

• Rigor in AI: Doing Rigorous AI Work Requires a Broader, Responsible AI-Informed Conception of Rigor [83.99510317617694]
  我々は、厳格なAI研究と実践が持つべきものに対するより広範な概念が必要とされると論じている。 我々は,AIコミュニティの作業に関する対話に有用な言語とフレームワークを提供することを目標としている。
  論文  参考訳（メタデータ） (2025-06-17T15:44:41Z)
• Explainable AI: Definition and attributes of a good explanation for health AI [0.18846515534317265]
  AIシステムが推奨する方法と理由を理解するには、内部の動作と推論プロセスに関する複雑な説明が必要になる可能性がある。 AIの可能性を完全に実現するためには、安全クリティカルなAIアプリケーションの説明に関する2つの基本的な疑問に対処することが重要である。 本研究の成果は,(1)健康AIにおける説明を構成するものの定義,(2)健康AIにおける良い説明を特徴付ける属性の包括的リストを含む。
  論文  参考訳（メタデータ） (2024-09-09T16:56:31Z)
• On the consistent reasoning paradox of intelligence and optimal trust in AI: The power of 'I don't know' [79.69412622010249]
  一貫性推論(Consistent reasoning)は、人間の知性の中心にある、同等のタスクを扱う能力である。 CRPは、一貫性のある推論は誤認を意味する、と論じている。
  論文  参考訳（メタデータ） (2024-08-05T10:06:53Z)
• In Search of Verifiability: Explanations Rarely Enable Complementary Performance in AI-Advised Decision Making [25.18203172421461]
  説明は、人間の意思決定者がAIの予測の正しさを検証できる範囲でのみ有用である、と我々は主張する。 また、補完性能の目的と適切な依存度を比較し、後者を結果段階と戦略段階の信頼度の概念に分解する。
  論文  参考訳（メタデータ） (2023-05-12T18:28:04Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Scope and Sense of Explainability for AI-Systems [0.0]
  高度に複雑で効率的なAIシステムの説明可能性に関する問題に重点が置かれる。 AIソリューションが完全に理解できないため、事前に破棄されるならば、インテリジェントシステムの可能性の大部分は無駄になる、という考えを支持する議論を詳しく説明する。
  論文  参考訳（メタデータ） (2021-12-20T14:25:05Z)
• Some Critical and Ethical Perspectives on the Empirical Turn of AI Interpretability [0.0]
  我々は、現在人工知能開発で直面している2つの問題、すなわち、倫理の欠如とAI決定の解釈可能性の欠如について考察する。 実験により,説明書作成の実証的かつリベラルな転換は,否定力の低いAI説明を選択する傾向にあることを示した。 我々は、倫理的AIの今後の発展のためのシナリオとして、より外部規制やAI説明の自由化の2つを提案する。
  論文  参考訳（メタデータ） (2021-09-20T14:41:50Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)
• Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
  経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。 近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
  論文  参考訳（メタデータ） (2019-12-29T17:42:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。