論文の概要: A Definition of Good Explanations and the Challenges Explaining LLM Outputs

• arxiv url: http://arxiv.org/abs/2606.14838v1
• Date: Fri, 12 Jun 2026 17:11:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:32.339135
• Title: A Definition of Good Explanations and the Challenges Explaining LLM Outputs
• Title（参考訳）: 良質な説明の定義とLCM出力の解説
• Authors: Louis Mahon, Elliot Ford, Callum Hackett,
• Abstract要約: 本稿では,反実的説明の概念に着想を得た定義を提案する。 我々はまた、説明において提示できるそれぞれの事実において、インターロケータの以前の信念を考慮に入れなければならないと論じている。
• 参考スコア（独自算出の注目度）: 5.677745797361044
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: How to define a good explanation is a long-standing philosophical debate which has found recent renewed interest in the context of AI outputs. Explainability is crucial for AI adoption in many contexts, but in order to produce good explanations of AI systems, we must first have an understanding of what good explanations are. In this paper we propose a definition inspired by the notion of counterfactual explanations, however we argue that one must also take into account the interlocutor's prior beliefs in each fact that could be offered in an explanation. We explore the ramifications of this definition for AI explainability and, in particular, why LLM outputs are difficult to produce good explanations for.
• Abstract（参考訳）: 良い説明をどう定義するかは、AI出力の文脈に最近新しく関心が寄せられているという長年の哲学的議論である。 説明可能性は多くの文脈でAIの採用に不可欠ですが、AIシステムの優れた説明を生成するためには、まず最初に、よい説明が何であるかを理解する必要があります。 本稿では, 反実的説明の概念に着想を得た定義を提案するが, 説明において提示できる各事実において, 干渉者の以前の信念も考慮しなくてはならないと論じる。 この定義のAI説明可能性に対する影響と、特に、LCM出力がなぜ良い説明を下すのが難しいのかを考察する。

関連論文リスト

• FaithLM: Towards Faithful Explanations for Large Language Models [60.45183469474916]
  大規模言語モデルの忠実度を評価し改善するモデルに依存しないフレームワークであるFaithLMを紹介した。 FaithLMは一貫して忠実度を高め、強い自己説明ベースラインよりも人間の合理性に整合した説明を生成する。
  論文  参考訳（メタデータ） (2024-02-07T09:09:14Z)
• Clash of the Explainers: Argumentation for Context-Appropriate Explanations [6.8285745209093145]
  特定のコンテキストに最も適したアプローチはひとつもありません。 AIの説明容易性を効果的にするためには、説明とそれらがどのように提示されるかは、説明を受けるステークホルダーに向けられる必要がある。 本稿では、関係する利害関係者の精神モデルと、多説明者による議論問題を解決する理性コンポーネントと、利害関係者に適切に説明すべきAIモデルとからなるモジュラー推論システムを提案する。
  論文  参考訳（メタデータ） (2023-12-12T09:52:30Z)
• Providing personalized Explanations: a Conversational Approach [0.5156484100374058]
  そこで本稿では,説明者との対話を通じて,パーソナライズされた説明を説明人に伝達する手法を提案する。 我々は、説明人が理解し、説明者が認識している最初の主張についての説明が存在する限り、説明人が最初の主張を正当化しているため、会話が終了することを証明する。
  論文  参考訳（メタデータ） (2023-07-21T09:34:41Z)
• LMExplainer: Grounding Knowledge and Explaining Language Models [37.578973458651944]
  GPT-4のような言語モデル(LM)は、AIアプリケーションにおいて重要であるが、不透明な意思決定プロセスは、特に安全クリティカルな領域において、ユーザの信頼を低下させる。 LMExplainerは,人間の直感的,理解可能な説明を通じて,LMの推論過程を明らかにする新しい知識基盤説明器である。
  論文  参考訳（メタデータ） (2023-03-29T08:59:44Z)
• Complementary Explanations for Effective In-Context Learning [77.83124315634386]
  大規模言語モデル (LLM) は、説明のインプロンプトから学習する際、顕著な能力を示した。 この研究は、文脈内学習に説明が使用されるメカニズムをよりよく理解することを目的としている。
  論文  参考訳（メタデータ） (2022-11-25T04:40:47Z)
• Sensible AI: Re-imagining Interpretability and Explainability using Sensemaking Theory [14.35488479818285]
  Weickのセンスメイキング理論に基づく解釈可能性の代替的枠組みを提案する。 私たちは、Sensible AIの設計ガイドラインを議論するためのテンプレートとして、組織におけるセンスメイキングの応用を使用します。
  論文  参考訳（メタデータ） (2022-05-10T17:20:44Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
  我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。 我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
  論文  参考訳（メタデータ） (2022-01-27T00:19:41Z)
• Making Things Explainable vs Explaining: Requirements and Challenges under the GDPR [2.578242050187029]
  ExplanatorY AI(YAI)はXAI上に構築され、説明可能な情報の収集と整理を目的としている。 本稿では,自動意思決定システム(ADM)について,説明空間上の適切な経路を特定するための説明を生成する問題について述べる。
  論文  参考訳（メタデータ） (2021-10-02T08:48:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。