論文の概要: HPFA: Hypergraph-Based Paired Failure Attribution for LLM Reasoning
- arxiv url: http://arxiv.org/abs/2608.02026v1
- Date: Mon, 03 Aug 2026 10:23:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.485678
- Title: HPFA: Hypergraph-Based Paired Failure Attribution for LLM Reasoning
- Title（参考訳）: HPFA: LLM推論におけるハイパーグラフベースのペアドフェール属性
- Abstract要約: 提案手法は,障害原因を原因とするハイパーグラフに基づくペア型障害帰属フレームワークで,目標とする障害推論パスのハイパーエッジを参照成功パスと比較する。
探索空間を小さくすることで,根本原因を効率よくローカライズし,帰属データのスケーラブルな合成を可能にする。
数学的推論およびエージェントコーディングタスクの実験は、HPFAが帰属精度と効率を劇的に向上させることができることを示した。
- 参考スコア（独自算出の注目度）: 15.068861766259412
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reflection is a powerful mechanism for LLM reasoning, yet its effectiveness hinges on accurately attributing failures to specific reasoning steps, a capability that current models notably lack. Existing failure attribution methods either require expensive step-by-step counterfactual testing that scales poorly with trajectory length, or treat reasoning traces as flat sequences that ignore the inherent non-linear logical dependencies. We propose a hypergraph-based paired failure attribution (HPFA) framework that attributes the failure root cause by comparing the hyperedges of the targeted failure reasoning path against a reference successful path. By reducing the search space, our method efficiently localizes root causes and enables scalable synthesis of attribution data for training a lightweight attributor model via supervised fine-tuning and reinforcement learning. Experiments on mathematical reasoning and agentic coding tasks demonstrate that HPFA can dramatically increase attribution accuracy and efficiency, and the trained attributor consistently improves reasoning accuracy at test time, outperforming baselines that lack graph structure or paired analysis.
- Abstract（参考訳）: リフレクションはLLM推論の強力なメカニズムであるが、その有効性は特定の推論ステップに失敗を正確にもたらすことにある。
既存のフェール帰属法では、軌道長の低いスケールの高価なステップバイステップの反ファクトテストを必要とするか、あるいは、本質的に非線形な論理的依存関係を無視したフラットシーケンスとして推論トレースを扱うかのどちらかである。
提案手法は, 故障原因を基準的成功経路と比較することにより, 故障原因を属性としたハイパーグラフベースのペア障害帰属(HPFA)フレームワークを提案する。
探索空間を小さくすることで,根本原因を効率よくローカライズし,教師付き微調整と強化学習による軽量属性モデルのトレーニングを行うための属性データのスケーラブルな合成を可能にする。
数学的推論とエージェントコーディングタスクの実験により、HPFAは帰属精度と効率を劇的に向上させ、訓練された帰属者は、グラフ構造やペア解析を欠いたベースラインよりも優れた、テスト時の推論精度を一貫して改善することを示した。
関連論文リスト
- Beyond LLM-Based Reasoning: Lightweight GNNs for Agent Failure Attribution [47.70578021328887]
大規模言語モデル(LLM)ベースのマルチエージェントシステムは、しばしば複雑な障害モードを示す。
AFANetは、ステップレベルの意味信号とエージェントレベルの関係を通して相互作用軌跡をモデル化する軽量なグラフベースのフレームワークである。
以上の結果から, エージェント障害の効果的な帰属は大きな推論を必要とせず, 軽量で構造化されたアプローチで高い性能を達成できることが示唆された。
論文 参考訳（メタデータ） (2026-08-19T06:16:09Z) - Advantage-Guided Gate: Reshaping Open-Ended Reasoning for Vision-Based Spatial Intelligence [70.8951332710039]
マルチモーダル大言語モデル (MLLM) は複雑な空間的シーン理解と推論タスクにおいて有意な可能性を証明している。
しかし、彼らのオープンな推論プロセスは、意思決定の誤りやエラーの蓄積を招きやすいため、回答の品質が不安定になる。
本稿では,推論過程において動的に介入し,偏差を補正するアドバンテージ誘導型ゲーティングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-08T07:46:04Z) - Unified Data Selection for LLM Reasoning [66.0118347918729]
複雑で長いCoT推論のための大規模言語モデル(LLM)のトレーニングは、しばしば大量の高品質な推論データの必要性によってボトルネックとなる。
本研究では,各推論サンプルの上位(例えば0.5%)のエントロピートークンのみを和らげることで,推論品質を定量化する学習自由度指標であるHigh-Entropy Sum(HES)を提案する。
論文 参考訳（メタデータ） (2026-05-21T12:21:41Z) - Contrastive Attribution in the Wild: An Interpretability Analysis of LLM Failures on Realistic Benchmarks [42.92210265283373]
解釈可能性ツールは、大規模言語モデル(LLM)の失敗を分析するために、ますます使われています。
現実的な環境下でのLLM故障を解析するための実用的なツールとして,LRPに基づく帰属性について検討した。
以上の結果から,このトークンレベルのコントラスト属性は,いくつかの障害事例において情報信号が得られるが,一般には適用できないことがわかった。
論文 参考訳（メタデータ） (2026-04-20T03:24:11Z) - On Multi-Step Theorem Prediction via Non-Parametric Structural Priors [50.16583672681106]
本研究では,インコンテキスト学習(ICL)のレンズによる学習自由な定理予測について検討する。
本稿では,過去の解の時間的依存関係を有向グラフとしてエンコードし,推論中に探索空間を効果的に引き起こす明示的なトポロジ的制約を課すTheorem Precedence Graphsを提案する。
FormalGeo7kベンチマークの実験から,本手法は89.29%の精度を実現し,ICLベースラインを著しく上回り,最先端の教師付きモデルに適合することがわかった。
論文 参考訳（メタデータ） (2026-03-05T06:08:50Z) - From Flat Logs to Causal Graphs: Hierarchical Failure Attribution for LLM-based Multi-Agent Systems [13.588125015284257]
本稿では,カオス軌跡を階層型因果グラフに変換する新しいフレームワークCHIEFを提案する。
Who&Whenベンチマークの実験によると、CHIEFはエージェントレベルの精度とステップレベルの精度の両方で8つの強い、最先端のベースラインを上回っている。
論文 参考訳（メタデータ） (2026-02-27T06:08:42Z) - How and Why LLMs Generalize: A Fine-Grained Analysis of LLM Reasoning from Cognitive Behaviors to Low-Level Patterns [51.02752099869218]
大きな言語モデル(LLM)は、非常に異なる一般化の振る舞いを示す。
推論を原子核スキルに分解する新しいベンチマークを導入する。
SFTモデルはよりシャープなドリフトと表面パターンへの過度な適合を示すのに対し、RL型モデルはより安定した行動プロファイルを維持し、推論スキルの崩壊に抵抗することを示す。
論文 参考訳（メタデータ） (2025-12-30T08:16:20Z) - Verifying Large Language Models' Reasoning Paths via Correlation Matrix Rank [71.09032766271493]
大規模言語モデル (LLM) は誤りや幻覚を引き起こす傾向がある。
アウトプットを効果的かつ効率的にチェックする方法は、アプリケーションにとって重要な問題となっている。
論文 参考訳（メタデータ） (2025-10-28T11:01:10Z) - RationAnomaly: Log Anomaly Detection with Rationality via Chain-of-Thought and Reinforcement Learning [27.235259453535537]
RationAnomalyは、Chain-of-Thoughtファインチューニングと強化学習を相乗化することにより、ログの異常検出を強化する新しいフレームワークである。
コードとデータセットを含む、対応するリソースをリリースしました。
論文 参考訳（メタデータ） (2025-09-18T07:35:58Z) - Enhancing Logical Reasoning in Language Models via Symbolically-Guided Monte Carlo Process Supervision [43.05159920832912]
大規模言語モデル(LLM)は多くの推論ベンチマークで高いパフォーマンスを示している。
LLMはコンテンツのバリエーションに影響を受けやすく、堅牢な計画や象徴的な抽象化の欠如を示している。
そこで我々は,段階的に擬似ラベルで高品質な記号推論軌道を合成することで,そのような制限を克服することを提案する。
論文 参考訳（メタデータ） (2025-05-26T18:06:39Z) - Bridging Internal Probability and Self-Consistency for Effective and Efficient LLM Reasoning [53.25336975467293]
パープレキシティや自己整合性などの手法の第一理論誤差分解解析について述べる。
パープレキシティ法は、適切な整合関数が存在しないため、かなりのモデル誤差に悩まされる。
本稿では、自己整合性とパープレキシティを統合したReasoning-Pruning Perplexity Consistency(RPC)と、低確率推論経路を排除したReasoning Pruningを提案する。
論文 参考訳（メタデータ） (2025-02-01T18:09:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。