論文の概要: TRUE: A Trustworthy Unified Explanation Framework for Large Language Model Reasoning

• arxiv url: http://arxiv.org/abs/2602.18905v1
• Date: Sat, 21 Feb 2026 17:00:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-24 17:42:02.38722
• Title: TRUE: A Trustworthy Unified Explanation Framework for Large Language Model Reasoning
• Title（参考訳）: TRUE: 大規模言語モデル推論のための信頼できる統一説明フレームワーク
• Authors: Yujiao Yang,
• Abstract要約: 大規模言語モデル(LLM)は複雑な推論タスクにおいて強力な能力を示してきたが、その意思決定プロセスは解釈が難しいままである。 本稿では,実行可能推論検証,実現可能な領域指向非巡回グラフ(DAG)モデリング,因果故障モード解析を統合したTrustworthy Unified Explanation Framework(TRUE)を提案する。
• 参考スコア（独自算出の注目度）: 0.2538209532048867
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have demonstrated strong capabilities in complex reasoning tasks, yet their decision-making processes remain difficult to interpret. Existing explanation methods often lack trustworthy structural insight and are limited to single-instance analysis, failing to reveal reasoning stability and systematic failure mechanisms. To address these limitations, we propose the Trustworthy Unified Explanation Framework (TRUE), which integrates executable reasoning verification, feasible-region directed acyclic graph (DAG) modeling, and causal failure mode analysis. At the instance level, we redefine reasoning traces as executable process specifications and introduce blind execution verification to assess operational validity. At the local structural level, we construct feasible-region DAGs via structure-consistent perturbations, enabling explicit characterization of reasoning stability and the executable region in the local input space. At the class level, we introduce a causal failure mode analysis method that identifies recurring structural failure patterns and quantifies their causal influence using Shapley values. Extensive experiments across multiple reasoning benchmarks demonstrate that the proposed framework provides multi-level, verifiable explanations, including executable reasoning structures for individual instances, feasible-region representations for neighboring inputs, and interpretable failure modes with quantified importance at the class level. These results establish a unified and principled paradigm for improving the interpretability and reliability of LLM reasoning systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は複雑な推論タスクにおいて強力な能力を示してきたが、その意思決定プロセスは解釈が難しいままである。 既存の説明法は、信頼できる構造的な洞察を欠くことが多く、単一インスタンス分析に限られており、推論安定性と系統的な故障機構を明らかにしていない。 これらの制約に対処するため,実行可能推論検証,DAGモデリング,因果故障モード解析を統合したTrustworthy Unified Explanation Framework(TRUE)を提案する。 インスタンスレベルでは、推論トレースを実行可能なプロセス仕様として再定義し、運用上の妥当性を評価するために盲目実行検証を導入します。 局所構造レベルでは、構造に一貫性のある摂動によって実現可能な領域DAGを構築し、局所入力空間における推論安定性と実行可能領域の明示的な評価を可能にする。 クラスレベルでは、繰り返し発生する構造的故障パターンを特定し、Shapley値を用いて因果的影響を定量化する因果的故障モード解析手法を導入する。 複数の推論ベンチマークにわたる大規模な実験により、提案フレームワークは、個々のインスタンスに対する実行可能な推論構造、近隣の入力に対する実行可能な領域表現、クラスレベルでの定量化された障害モードを含む、多レベルで検証可能な説明を提供することを示した。 これらの結果は、LLM推論システムの解釈可能性と信頼性を改善するために、統一的で原則化されたパラダイムを確立する。

関連論文リスト

• Step-Aware Policy Optimization for Reasoning in Diffusion Large Language Models [57.42778606399764]
  拡散言語モデル(dLLM)は、テキスト生成に有望で非自己回帰的なパラダイムを提供する。 現在の強化学習アプローチは、しばしばスパースで結果に基づく報酬に頼っている。 これは推論の自然な構造との根本的なミスマッチに由来すると我々は主張する。
  論文  参考訳（メタデータ） (2025-10-02T00:34:15Z)
• Structuring Reasoning for Complex Rules Beyond Flat Representations [37.11501169845084]
  我々は、専門家による推論プロセスに触発された新しいフレームワークを提案する。 Dynamic Adjudication template(DAT)は、推論メカニズムを3つの方法論的なステージに構成する。 DATは、複雑なルールベースのタスクにおいて、従来のChain-of-Thought(CoT)アプローチよりも一貫して優れています。
  論文  参考訳（メタデータ） (2025-10-01T04:10:13Z)
• Implicit Reasoning in Large Language Models: A Comprehensive Survey [67.53966514728383]
  大規模言語モデル(LLM)は、幅広いタスクにまたがる強力な一般化を実証している。 最近の研究は、暗黙の推論に拍車をかけた、明示的な思考の連鎖から注意を向けている。 本調査では,表現形式から計算戦略へ焦点を移し,実行パラダイムを中心とした分類を紹介した。
  論文  参考訳（メタデータ） (2025-09-02T14:16:02Z)
• Explainable Chain-of-Thought Reasoning: An Empirical Analysis on State-Aware Reasoning Dynamics [69.00587226225232]
  本研究では,CoTトラジェクトリを構造化潜在力学に抽象化する状態認識遷移フレームワークを提案する。 推論のグローバルな構造を特徴づけるために、それらの進行をマルコフ連鎖としてモデル化する。 この抽象化は、意味的役割の識別、時間的パターンの可視化、一貫性評価など、さまざまな分析をサポートする。
  論文  参考訳（メタデータ） (2025-08-29T18:53:31Z)
• CTRLS: Chain-of-Thought Reasoning via Latent State-Transition [57.51370433303236]
  チェーン・オブ・シント(CoT)推論は、大規模な言語モデルで複雑な問題を解釈可能な中間ステップに分解することを可能にする。 我々は,遅延状態遷移を伴うマルコフ決定プロセス(MDP)としてCoT推論を定式化するフレームワークであるgroundingSを紹介する。 我々は、ベンチマーク推論タスクにおける推論精度、多様性、探索効率の改善を示す。
  論文  参考訳（メタデータ） (2025-07-10T21:32:18Z)
• On the Eligibility of LLMs for Counterfactual Reasoning: A Decompositional Study [15.617243755155686]
  対物推論は、大規模言語モデルの推論能力を一般化するための重要な手法として現れてきた。 本稿では, 因果関係の構築から, 逆因果関係の介入に対する推論まで, 逆因果関係の生成を分解する分解戦略を提案する。
  論文  参考訳（メタデータ） (2025-05-17T04:59:32Z)
• Structured Prompting and Feedback-Guided Reasoning with LLMs for Data Interpretation [0.0]
  大規模言語モデル(LLM)は、自然言語の理解とタスクの一般化において顕著な能力を示した。 本稿では、構造化されたプロンプトおよびフィードバック駆動型変換ロジック生成手法であるSTROT Frameworkを紹介する。
  論文  参考訳（メタデータ） (2025-05-03T00:05:01Z)
• The Curse of CoT: On the Limitations of Chain-of-Thought in In-Context Learning [56.574829311863446]
  CoT(Chain-of-Thought)プロンプトは,大規模言語モデル(LLM)における推論能力の向上によって広く認識されている。 我々は、CoTとその推論変異が、様々なモデルスケールやベンチマークの複雑さに対して、直接応答を一貫して過小評価していることを実証する。 パターンベースICLにおけるCoTの性能を駆動する明示的単純推論の基本的なハイブリッド機構を明らかにする。
  論文  参考訳（メタデータ） (2025-04-07T13:51:06Z)
• Causality can systematically address the monsters under the bench(marks) [64.36592889550431]
  ベンチマークはさまざまなバイアス、アーティファクト、リークに悩まされている。 モデルは、調査の不十分な障害モードのため、信頼できない振る舞いをする可能性がある。 因果関係はこれらの課題を体系的に解決するための 理想的な枠組みを提供します
  論文  参考訳（メタデータ） (2025-02-07T17:01:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。