論文の概要: Rethinking Reasoning Paths as Phase-Structured Trajectories
- arxiv url: http://arxiv.org/abs/2609.36461v1
- Date: Tue, 29 Sep 2026 01:22:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.088384
- Title: Rethinking Reasoning Paths as Phase-Structured Trajectories
- Title(参考訳): 位相構造軌道としての推論経路の再考
- Abstract要約: そこで本稿では, 推論経路を相構造軌道として, 一定の問合せで考察する。
我々は、この見解をPAIRとして、フェーズアラインド・クエスト・イン・クエスト・推論の略とみなす。
我々は,標準のクロスクエスト正当性プローブが,内部クエスト評価において予測力の多くを失うことを発見した。
- 参考スコア(独自算出の注目度): 42.575178574443946
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models often improve problem-solving performance by generating multi-step reasoning paths, yet how to analyze the hidden states along these paths remains unclear. Existing approaches typically assign each intermediate state the final-answer correctness label and train probes across heterogeneous questions. We argue that this protocol obscures reasoning dynamics in two ways: (1) correctness prediction can exploit question-level variation rather than path quality, and (2) states aligned by absolute step indices may correspond to different functional phases of reasoning. In this work, we propose to view reasoning paths as phase-structured trajectories within fixed questions. We instantiate this view as PAIR, short for Phase-Aligned Intra-question Reasoning. PAIR samples multiple trajectories for each question, maps variable-length paths into shared relative phases based on normalized trajectory progress, and compares successful and unsuccessful trajectories only within the same question and phase. This yields phase-specific path-quality directions that better isolate path-quality signals from question-level variation. Empirically, we find that standard across-question correctness probes lose much of their predictive power under within-question evaluation, suggesting that these probes partly rely on question-level information. PAIR improves within-question trajectory ranking and Best-of-N trajectory selection across models and benchmarks. Phase-wise steering further shows that the learned directions can change generation outcomes, providing causal evidence that they capture trajectory-relevant information.
- Abstract(参考訳): 大規模言語モデルは、多段階推論経路を生成することにより、しばしば問題解決性能を向上させるが、これらの経路に沿って隠れた状態を分析する方法はまだ不明である。
既存のアプローチは通常、各中間状態に最終回答正当性ラベルを割り当て、不均一な質問を横断する列車プローブを割り当てる。
我々は,(1)正確性予測は経路品質よりも質問レベルの変動を活用できる,(2)絶対ステップの指標で整列した状態は推論の異なる機能的位相に対応できる,という2つの方法で推論力学を曖昧にしている,と論じている。
そこで本研究では, 推論経路を相構造軌道として, 一定の問合せで考察する。
我々は、この見解をPAIRとして、フェーズアラインド・クエスト・イン・クエスト・推論の略とみなす。
PAIRは、各質問に対して複数のトラジェクトリをサンプリングし、正規化されたトラジェクトリの進行に基づいて、可変長経路を共有相対位相にマッピングし、同じ質問とフェーズでのみ成功し、失敗したトラジェクトリを比較する。
これにより、フェーズ固有のパス品質の方向が得られ、パス品質の信号が質問レベルの変化からより分離される。
実験により,標準的なクロスクエスト正当性プローブは,内部クエスト評価において予測力の大部分を失うことが判明し,これらのプローブは部分的に質問レベルの情報に依存することが示唆された。
PAIRは、モデルとベンチマーク間でのクエスト軌道ランキングとBest-of-N軌道選択を改善している。
フェーズワイズ・ステアリングは、学習した方向が生成結果を変えることを示し、それが軌道関連情報を捉えているという因果的証拠を提供する。
関連論文リスト
- All Roads Lead to Rome: Flow-driven Multi-Anchor Exploration for Open-Environment Active 3D Mapping [54.90158288791037]
Open-Environment Active 3D Mappingは、見えないシナリオを再構築するために、長い水平かつ最も短い軌道探索を行うことを目的としている。
本研究では,フローマッチングを用いた条件付きマルチモーダルアンカー生成として,長距離目標予測を再構成する。
オープン環境における一般化と再構築の効率化を図る。
論文 参考訳(メタデータ) (2026-09-29T07:20:32Z) - Right Direction, Wrong Step: Geometric Analysis of Finite-Step Failure in Looped Transformers [40.43356191604634]
Looped Transformerは、反復的な遅延推論のために共有レイヤを再利用することで、テスト時間のスケーリングにパラメータ効率のよいルートを提供する。
追加のイテレーションは、参照応答のサポートを減らし、更新の方向が局所的に非ヘルペスであるか、その完全な変位が過度に動きすぎるかがはっきりしないままにすることができる。
我々は、モデル自身の更新方向に沿って、このサポートを測定する参照ユーティリティを分析して、この区別について検討する。
論文 参考訳(メタデータ) (2026-09-15T05:42:02Z) - Path-dependent Discrete Amortized Inference [7.20046890493201]
与えられた非正規化後部分布から合成対象と離散対象をサンプリングする問題を考察する。
マルコフの仮定は、訓練中の信号伝達を妨げ、学習したサンプルの表現力を壊滅的に減少させることが示される。
本稿では,MDPを学習可能な潜在力学系で解き放つことを提案する。
論文 参考訳(メタデータ) (2026-08-09T11:35:05Z) - Self-Consistent Generative Paths via Admissible Random Variational Transport [14.74009385288423]
確率経路はいつ自己整合するのか?
自己整合性生成経路を許容可能な局所変分輸送補正のランダムな固定点として定義する。
結果として生じる理論は、エンドポイントマッチングを経路自己整合性テストに変換する。
論文 参考訳(メタデータ) (2026-06-08T02:56:06Z) - Dynamics Within Latent Chain-of-Thought: An Empirical Study of Causal Structure [58.89643769707751]
表現空間における潜在連鎖を操作可能な因果過程として研究する。
遅延ステップの予算は、均質な余分な深さよりも、非局所的なルーティングを備えたステージ機能のように振る舞う。
これらの結果は、モード条件と安定性を意識した分析を、潜伏推論システムの解釈と改善のための信頼性の高いツールとして動機付けている。
論文 参考訳(メタデータ) (2026-02-09T15:25:12Z) - Knowing the Answer Isn't Enough: Fixing Reasoning Path Failures in LVLMs [85.37131922131657]
我々はLVLM(Large Vision-Language Models)の重大な欠陥を明らかにした。
これらのモデルが正しい答えを知っていても、誤った推論経路を通じて頻繁にそこに到達します。
PSO(Path-Select Optimization)は,既存のLVLMの推論性能と安定性を両立させる2段階のポストトレーニングフレームワークである。
論文 参考訳(メタデータ) (2025-12-06T03:02:55Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Navigating Explanatory Multiverse Through Counterfactual Path Geometry [5.109188339767978]
本稿では, 可能なすべての反現実的な旅を包含する説明的多元宇宙論の概念を紹介する。
本稿では,親和性,分岐性,発散性,将来の収束可能性など,それらの空間的特性について概説する。
我々は、機会ポテンシャルと呼ばれるオールインワン計量を提案し、それらを定量化する。
論文 参考訳(メタデータ) (2023-06-05T11:26:46Z) - Stochastic Optimal Control for Collective Variable Free Sampling of
Molecular Transition Paths [60.254555533113674]
分子系の2つの準安定状態間の遷移経路をサンプリングする問題を考察する。
本稿では,その遷移をサンプリングする機械学習手法を提案する。
論文 参考訳(メタデータ) (2022-06-27T14:01:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。