論文の概要: Structural Chain-of-Thought: Reasoning with Executable Computational Graphs
- arxiv url: http://arxiv.org/abs/2610.15107v1
- Date: Sat, 10 Oct 2026 18:29:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.164215
- Title: Structural Chain-of-Thought: Reasoning with Executable Computational Graphs
- Title(参考訳): 制約の構造的連鎖:実行可能計算グラフによる推論
- Abstract要約: チェーン・オブ・プルーピングは、検証が難しく、生成にコストがかかり、常に忠実であるとは限らない説明を生み出します。
本稿では,モデルが自由形式推論の代わりに実行可能な計算グラフを生成する構造的階層化フレームワークを提案する。
我々の実験は、我々のアプローチで訓練されたモデルは、ポストホックな合理化を生成するよりも、生成したグラフから回答を導き出すことに頼っていることを示している。
- 参考スコア(独自算出の注目度): 11.183892591874224
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Chain-of-thought prompting enables reasoning in large language models but produces explanations that are difficult to verify, expensive to generate, and not always faithful. We introduce a Structural Chain-of-Thought framework where models generate executable computational graphs instead of free-form reasoning. The final answer is obtained by deterministically executing the graph. The model is trained using graph-based reinforcement learning that rewards structural validity, answer correctness, and node overlap with reference graphs. Experiments across five benchmarks and four model families show that our method consistently improves accuracy over supervised graph training and can reduce generation length by up to 5-6x compared with standard GRPO and chain-of-thought supervised training. Our faithfulness experiments reveal that models trained with our approach tend to rely on deriving their answers from the generated graphs rather than producing post-hoc rationalizations as usually in chain-of-thought reasoning.
- Abstract(参考訳): Chain-of- Thoughtプロンプトは、大きな言語モデルでの推論を可能にするが、検証が難しく、生成にコストがかかり、常に忠実ではない説明を生成する。
本稿では,モデルが自由形式推論の代わりに実行可能な計算グラフを生成する構造的階層化フレームワークを提案する。
最後の答えは、グラフを決定的に実行することによって得られる。
このモデルは、構造的妥当性、答えの正しさ、および参照グラフと重複するノードに報酬を与えるグラフベースの強化学習を用いて訓練される。
5つのベンチマークと4つのモデルファミリによる実験により、我々の手法は教師付きグラフトレーニングよりも常に精度を向上し、標準のGRPOやチェーン・オブ・ファシリテータトレーニングと比較して最大5~6倍の生成長を削減できることが示された。
我々の忠実な実験は、我々のアプローチで訓練されたモデルは、通常チェーンオブ思考の推論のように、ポストホックな合理化を生成するよりも、生成したグラフから回答を導き出すことに頼っていることを示している。
関連論文リスト
- LCoT-GV: Graph Attention Networks for Verifying Long Reasoning Chains in Large Language Models [1.546945230112218]
本稿では,Long Chain-of-Thought Graph Verifier (LCoT-GV)を推論グラフとして表現するグラフベースのフレームワークを提案する。
グラフ注意ネットワークは、推論グラフからチェーンオブ思考の正しさを予測するために訓練される。
論文 参考訳(メタデータ) (2026-08-31T12:21:22Z) - From Chains to Graphs: Self-Structured Reasoning for General-Domain LLMs [52.0811904328273]
現実の推論には、複数の前提を統合し、サブプロブレムを並列に解決する必要がある。
最近のアプローチでは、外部に提供されたグラフに依存しており、LCMが独自のグラフ構造化推論を構築し、利用する方法については検討していない。
我々は,LLMが最終回答を生成する前に,その推論プロセスを構造化グラフとして明示的に表現できるフレームワークであるSelf-Graph Reasoning (SGR)を提案する。
論文 参考訳(メタデータ) (2026-01-07T05:27:41Z) - Do Larger Language Models Generalize Better? A Scaling Law for Implicit Reasoning at Pretraining Time [73.22651918134808]
この研究は、モデルサイズのスケーリングによる直感的効果を示し、言語モデル(LM)におけるスケーリングと推論の関係に関する新たな洞察を提供する。
我々は,実世界の大規模知識グラフの構造と分布を再現する合成暗黙のマルチホップ推論環境において,ゼロからLMを事前学習する。
次に、実世界の事前学習における暗黙的推論の単純化とみなすことができるマルチホップ推論を必要とする、グラフの欠落したエッジを完遂するLMの能力を評価する。
論文 参考訳(メタデータ) (2025-04-04T17:57:22Z) - Explanation Graph Generation via Pre-trained Language Models: An
Empirical Study with Contrastive Learning [84.35102534158621]
エンドツーエンドで説明グラフを生成する事前学習言語モデルについて検討する。
本稿では,ノードとエッジの編集操作によるグラフ摂動の簡易かつ効果的な方法を提案する。
提案手法は,説明グラフの構造的精度と意味的精度を両立させる。
論文 参考訳(メタデータ) (2022-04-11T00:58:27Z) - ExplaGraphs: An Explanation Graph Generation Task for Structured
Commonsense Reasoning [65.15423587105472]
スタンス予測のための説明グラフ生成の新しい生成および構造化コモンセンスリゾニングタスク(および関連するデータセット)を紹介します。
具体的には、信念と議論が与えられた場合、モデルは、議論が信念を支持しているかどうかを予測し、予測されたスタンスに対する非自明で完全で曖昧な説明として機能する常識強化グラフを生成する必要がある。
グラフの83%は、様々な構造と推論深度を持つ外部のコモンセンスノードを含んでいる。
論文 参考訳(メタデータ) (2021-04-15T17:51:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。