論文の概要: Input-Conditioned Search for Efficient Test-Time Scaling of Recursive Reasoners
- arxiv url: http://arxiv.org/abs/2610.18547v2
- Date: Sun, 18 Oct 2026 05:13:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 06:32:45.28302
- Title: Input-Conditioned Search for Efficient Test-Time Scaling of Recursive Reasoners
- Title(参考訳): 再帰共振器の効率的なテスト時間スケーリングのための入出力探索
- Abstract要約: 我々は,異なる更新マップを付加的なトレーニングを伴わずに同一の潜伏状態に適用することで,多様な推論トレースを探索することを提案する。
提案手法は,入力条件を探索し,事前学習した推論値から代替更新マップを誘導するemphInput-Conditioned Search (ICS)によって実現される。
- 参考スコア(独自算出の注目度): 40.40006920948253
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: People often tackle difficult problems by thinking more deeply or exploring more possibilities. Similarly, recursive reasoners, which reason by repeatedly applying a learned update rule to latent states, can also scale inference through more updates (depth) or additional trajectories generated by perturbing latent states (width). When people hit a dead end in their thinking, they may step back and approach the problem from a fresh angle. However, neither depth scaling nor perturbation-based width scaling of recursive reasoners can reliably achieve this: both may converge to incorrect attractors. To address this, we propose to explore diverse reasoning traces by applying different update maps to the same latent state, without any additional training. We realize this idea through \emph{Input-Conditioned Search (ICS)}, which searches over input conditions to induce alternative update maps from the pretrained reasoner. Across six reasoning tasks, ICS achieves the highest mean accuracy, while requiring up to two orders of magnitude fewer model FLOPs than the evaluated scaling baselines. Controlled experiments confirm that ICS can redirect trajectories from the same state. Our theoretical analysis and rigorous numerical verification also confirm that ICS can locally eliminate incorrect attracting fixed points. Together, these findings establish ICS as an effective axis for efficient test-time scaling and motivate further research on shaping recursive reasoning during training and at test time.
- Abstract(参考訳): 人々はしばしば、より深く考えるか、より多くの可能性を探ることで、難しい問題に取り組みます。
同様に、学習された更新規則を潜伏状態に繰り返し適用することで原因となる再帰的推論器は、潜伏状態(幅)を摂動させることによって生成されたより多くの更新(深さ)または追加の軌跡を通じて推論をスケールすることもできる。
人々が思考の行き詰まりにぶつかると、彼らは後退して、新しい角度から問題にアプローチするかもしれません。
しかし、再帰的推論器の深さスケーリングや摂動に基づく幅スケーリングは、これらを確実に達成できない。
そこで本稿では,異なる更新マップを同一の潜伏状態に適用することで,新たなトレーニングを伴わずに,多様な推論トレースを探索することを提案する。
このアイデアは,入力条件を探索して事前学習した推論子から代替更新マップを誘導する,emph{Input-Conditioned Search (ICS) によって実現される。
6つの推論タスクのうち、ICSは最大平均精度を達成し、評価されたスケーリングベースラインよりも最大2桁少ないモデルFLOPを必要とする。
制御された実験により、ICSは同じ状態から軌道をリダイレクトできることが確認された。
理論的解析と厳密な数値検証により,ICSが不正確な固定点を局所的に除去できることを確認した。
これらの知見はICSを効率的なテストタイムスケーリングのための効果的な軸として確立し、トレーニング中およびテスト時に再帰的推論を形成するためのさらなる研究を動機付けている。
関連論文リスト
- ThinkRetrieve: Retrieval-Augmented Reasoning Traces for Test-Time Scaling [60.48279351544583]
ThinkRetrieveは大規模な推論モデルのためのテスト時間スケーリングフレームワークである。
それぞれの中間ステップで関連する例を検索し、思考トレースに直接注入する。
標準的なテスト時間スケーリングよりも精度が一貫して向上する。
論文 参考訳(メタデータ) (2026-08-11T13:58:07Z) - Temporal Backtracking Search for Test-time Generative Video Reasoning [51.4821857044108]
生成的ビデオ推論は、シングルショットのパラダイムによってボトルネックになっている。
本稿では,検索空間を時間軸にシフトさせるTBS(Temporal Backtracking Search)を提案する。
厳格なアウト・オブ・ディストリビューション設定では、TBSは22.7%を達成し、解決された各エピソードは再起動されたブランチから始まる。
論文 参考訳(メタデータ) (2026-06-11T19:41:18Z) - Boosting Inference with Guided Reasoning: Stochastic Exploration for Recursive Models [0.9786690381850356]
私たちは、構造化推論タスクにおいて、小さなニューラルネットワークが驚くほど強力であることを示します。
我々は、潜在力学系を用いた推論軌道をモデル化する。
我々はこの視点をガイド付き探査を通して運用する。
論文 参考訳(メタデータ) (2026-05-24T19:32:20Z) - Can Transformers Learn to Verify During Backtracking Search? [5.709908922073304]
バックトラック探索は古典的な制約解決者、プランナー、定理証明者の基礎となる。
最近の変圧器に基づく推論システムは, 探索木を自身の中間ステップで探索する。
累積トレースで訓練されたデコーダのみの変換器は、この要件を2つの方法で満たさないことを示す。
論文 参考訳(メタデータ) (2026-05-21T09:26:01Z) - Equilibrium Reasoners: Learning Attractors Enables Scalable Reasoning [15.355823330309724]
スケーラブル遅延推論はフィードフォワードモデルの精度を2.6%から、Sudoku-Extremeの99%以上に向上することを示す。
4万以上の層に展開することで、スケーラブルな遅延推論により、フィードフォワードモデルの2.6%から、Sudoku-Extremeの99%以上まで精度が向上する。
論文 参考訳(メタデータ) (2026-05-20T17:59:48Z) - Thinking Traps in Long Chain-of-Thought: A Measurable Study and Trap-Aware Adaptive Restart [27.904791075662896]
TAAR(Trap-Aware Adaptive Restart)は,部分軌道から2つの信号を予測するための診断ポリシーをトレーニングするテスト時間制御フレームワークである。
推測時、TAARは予測されたトラップセグメントの前に軌道を切断し、復号を適応的に再起動する。
実験の結果,TAARはモデルパラメータを微調整することなく推論性能を向上させることがわかった。
論文 参考訳(メタデータ) (2026-01-17T07:26:02Z) - Adaptive Test-Time Reasoning via Reward-Guided Dual-Phase Search [62.1546099504045]
本稿では、推論を計画と実行に分離する二相テストタイムスケーリングフレームワークを提案する。
具体的には、推論軌跡を分解し、各フェーズの報酬モデルを構築し、探索者が個別に計画と実行を探索、実行できるようにする。
数学的推論とコード生成ベンチマークの両方の実験により、我々の手法は計算の冗長性を低減しつつ、常に精度を向上することを示した。
論文 参考訳(メタデータ) (2025-09-29T19:27:23Z) - Towards Thinking-Optimal Scaling of Test-Time Compute for LLM Reasoning [108.07030347318624]
より長い思考の連鎖(CoTs)によるスケーリングは、特定の領域におけるLarge Language Models(LLMs)の推論性能を損なう可能性があることを示す。
深層思考に異なる推論手法を採用するためのモデルを教えるための思考-最適スケーリング戦略を提案する。
我々のQwen2.5-32B-Instructに基づく自己改善モデルは、様々なベンチマークで他の蒸留ベースの32B o1-likeモデルより優れています。
論文 参考訳(メタデータ) (2025-02-25T10:48:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。