論文の概要: From Plausible to Actionable: A Position on LLM Self-Explanations

• arxiv url: http://arxiv.org/abs/2607.15957v1
• Date: Fri, 17 Jul 2026 13:44:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.85758
• Title: From Plausible to Actionable: A Position on LLM Self-Explanations
• Title（参考訳）: 可塑性から動作可能へ:LDM自己説明の立場から
• Abstract要約: 大きな言語モデル(LLM)は、自身の決定を合理化する自然言語の説明を生成することができる。 我々は、自己説明は極めて妥当であり、疑わしいほど忠実であり、しかも非常に行動的であると論じる。
• 参考スコア（独自算出の注目度）: 1.349571235047442
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) can generate natural language explanations that rationalize their own decisions, a phenomenon commonly referred to as self-explanations.Such explanations have emerged as a promising direction for explainable artificial intelligence (XAI), particularly for interpreting LLM behavior.However, while self-explanations often appear plausible, whether they faithfully reflect a model's underlying reasoning process remains an open question. In this opinion paper, we argue that self-explanations can be highly plausible, questionably faithful, and yet highly actionable. From a traditional XAI perspective, we identify the limitations of standard evaluation protocols for LLM-generated self-explanations and propose practical guidelines for assessing their plausibility and faithfulness. Moreover, we argue that evaluation should extend beyond these criteria to actionability, highlighting applications of LLM rationalization capabilities that support informed decision-making and appropriate action across diverse stakeholders.
• Abstract（参考訳）: 大言語モデル(LLM)は、自身の決定を合理化するための自然言語の説明を生成することができるが、これは一般的に自己説明と呼ばれる現象であり、説明可能な人工知能(XAI)、特にLCMの振る舞いを解釈するための有望な方向として現れてきた。 この意見書では、自己説明は極めて信頼性が高く、疑わしいほど忠実であり、しかも非常に行動的であると論じている。 従来のXAIの観点から, LLM生成自己説明のための標準評価プロトコルの限界を特定し, その妥当性と忠実性を評価するための実践的ガイドラインを提案する。 さらに、評価はこれらの基準を超えて行動可能性にまで拡張されるべきであり、多様な利害関係者に対する情報的意思決定と適切な行動を支援するLCM合理化能力の適用を強調している。

関連論文リスト

• Beliefs and Behavior in Language Models [15.920644659904903]
  大型言語モデル(LLM)の振る舞いを説明するためにしばしば信念が呼び出される LLMの出力から推測される1つの潜伏変数 -- 信念の程度として解釈された -- が、観察者が解釈可能な予測を行うことができるかどうかを問う。 高い能力を持つモデルは、信念を保持するものとして有用であり、一般に、推論された潜在信念に基づくモデルアウトプットの予測可能性は、モデル能力の全体的なトレンドをトラックする。
  論文  参考訳（メタデータ） (2026-09-07T19:56:02Z)
• Faithfulness Serum: Mitigating the Faithfulness Gap in Textual Explanations of LLM Decisions via Attribution Guidance [57.17102098930037]
  大規模言語モデル(LLM)は高い性能を達成し、NLPに革命をもたらした。 説明責任の欠如はブラックボックスとして扱われ、透明性と信頼を求めるドメインでの使用を制限する。 本研究では,注意レベルの介入を通じて説明生成を導くことにより,信頼感を高める訓練自由手法を提案する。
  論文  参考訳（メタデータ） (2026-04-15T18:32:32Z)
• Truly Assessing Fluid Intelligence of Large Language Models through Dynamic Reasoning Evaluation [106.17986469245302]
  大きな言語モデル(LLM)は、人間のような思考を反映する印象的な推論能力を示している。 既存の推論ベンチマークでは、ドメイン固有の知識(結晶化インテリジェンス)に焦点を当てるか、解釈可能性に欠ける。 階層的認知フレームワークを基盤とした動的推論評価ベンチマークであるDRE-Benchを提案する。
  論文  参考訳（メタデータ） (2025-06-03T09:01:08Z)
• Towards Quantifying Commonsense Reasoning with Mechanistic Insights [7.124379028448955]
  我々は、コモンセンス推論のプロキシはグラフィカルな構造として維持できると主張している。 我々は、この暗黙の知識を、37の日々の人間の活動のためのグラフィカルな構造として捉えるためのアノテーションスキームを作成する。 生成したリソースは、膨大な数のCommonsenseクエリのフレーム化に使用することができる。
  論文  参考訳（メタデータ） (2025-04-14T10:21:59Z)
• Local Explanations and Self-Explanations for Assessing Faithfulness in black-box LLMs [1.03590082373586]
  本稿では,局所摂動と自己説明を用いた大規模言語モデル(LLM)の忠実度を評価するための新しい課題を紹介する。 提案手法は, 従来から用いられてきた手法にインスパイアされた, より効率的な代替的説明可能性手法を提案する。
  論文  参考訳（メタデータ） (2024-09-18T10:16:45Z)
• Look Before You Decide: Prompting Active Deduction of MLLMs for Assumptive Reasoning [77.72128397088409]
  本研究は,MLLMの最も普及している手法が,その問題に先入観を導入することで,容易に騙せることを示す。 また,モデルが積極的に複合推論を行うように促す新しい強化学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2024-04-19T15:53:27Z)
• Towards Logically Consistent Language Models via Probabilistic Reasoning [14.317886666902822]
  大規模言語モデル(LLM)は、自然言語理解および生成タスクのための有望な場所である。 LLMは、非現実的な情報を生成し、世界の信念を推論するよう促されたときに矛盾する傾向がある。 我々は,LLMが事実やルールの集合という形で,外部知識と整合性を持つように教える学習目標を導入する。
  論文  参考訳（メタデータ） (2024-04-19T12:23:57Z)
• FaithLM: Towards Faithful Explanations for Large Language Models [60.45183469474916]
  大規模言語モデルの忠実度を評価し改善するモデルに依存しないフレームワークであるFaithLMを紹介した。 FaithLMは一貫して忠実度を高め、強い自己説明ベースラインよりも人間の合理性に整合した説明を生成する。
  論文  参考訳（メタデータ） (2024-02-07T09:09:14Z)
• Faithfulness vs. Plausibility: On the (Un)Reliability of Explanations from Large Language Models [26.11408084129897]
  大規模言語モデル(LLM)は、いくつかの自然言語処理(NLP)アプリケーションのための強力なツールとしてデプロイされる。 最近の研究は、現代のLSMが自己説明(Ses)を生成できることを示している。 LLMが生成するSEの忠実度と妥当性の両立を論じる。
  論文  参考訳（メタデータ） (2024-02-07T06:32:50Z)
• A Closer Look at the Self-Verification Abilities of Large Language Models in Logical Reasoning [73.77088902676306]
  論理的推論の文脈において,大規模言語モデル(LLM)の自己検証能力について詳しく検討する。 本研究の主目的は,既存のLCMが誤った推論手順を正確に識別するのに苦労し,自己検証法の有効性を保証できないことにある。
  論文  参考訳（メタデータ） (2023-11-14T07:13:10Z)
• Phenomenal Yet Puzzling: Testing Inductive Reasoning Capabilities of Language Models with Hypothesis Refinement [92.61557711360652]
  言語モデル(LM)は、しばしば帰納的推論に不足する。 我々は,反復的仮説修正を通じて,LMの帰納的推論能力を体系的に研究する。 本研究は, LMの誘導的推論過程と人間とのいくつかの相違点を明らかにし, 誘導的推論タスクにおけるLMの使用の可能性と限界に光を当てる。
  論文  参考訳（メタデータ） (2023-10-12T17:51:10Z)
• Towards LogiGLUE: A Brief Survey and A Benchmark for Analyzing Logical Reasoning Capabilities of Language Models [56.34029644009297]
  大規模言語モデル(LLM)は、形式的知識表現(KR)システムの様々な制限を克服する能力を示した。 LLMは誘導的推論において最も優れているが、誘導的推論では最も効果が低い。 モデルの性能を評価するため,シングルタスクトレーニング,マルチタスクトレーニング,および「チェーンオブ思考」知識蒸留細調整技術について検討した。
  論文  参考訳（メタデータ） (2023-10-02T01:00:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。