論文の概要: Resample the Answer: Where to Spend Test-Time Compute in Recursive Reasoning
- arxiv url: http://arxiv.org/abs/2610.16427v1
- Date: Mon, 12 Oct 2026 08:55:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 23:19:39.518499
- Title: Resample the Answer: Where to Spend Test-Time Compute in Recursive Reasoning
- Title(参考訳): Resample the Answer: Recursive Reasoningにおけるテスト時間計算のスプレッド場所
- Abstract要約: 帰納的推論モデルは、2つの潜伏状態を反復的に洗練する: 応答状態 y は出力に復号化され、推論状態 z は復号化されない。
最近のテストタイムアプローチでは、これらの障害を回復するが、この選択がパフォーマンス、テストタイムの計算効率、スケーリング特性に与える影響は未定である。
失敗した軌道は解答状態に障害を持ち、再サンプリングした y はテストした任意の z の摂動よりも多くの障害を回復する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recursive reasoning models such as the Tiny Recursive Model (TRM) iteratively refine two latent states: an answer state y, decoded into the output, and a reasoning state z, which is never decoded. Many of their failures have been attributed to bad basins, regions of latent space that trap the recursion on wrong answers. Recent test-time approaches perturb y, z or both to recover these failures, but the impact of this choice on performance, test-time compute efficiency and scaling properties remains unclear. Through controlled experiments on TRM, we find that a failed trajectory carries its failure in its answer state. At equal compute, in depth and in width, resampling y recovers more failures than any perturbation of z we tested, and the performance gap widens as the test-time compute budget grows. Our approach, Gated Answer Resampling (GAR), pairs this resampling of the answer state with the model's own halting head and restarts only the puzzles that the head rejects. With at most 64 restarts per puzzle and no training or hyperparameter search, GAR takes TRM from 85.9% to 99.4% on Sudoku-Extreme and from 68.8% to 85.6% on Pencil Puzzle Bench validation. On the same checkpoints, GAR also outperforms Probabilistic TRM (PTRM), which perturbs z at each step, even when PTRM uses 42 to 197 times as much compute.
- Abstract(参考訳): Tiny Recursive Model (TRM) のような再帰的推論モデルでは、応答状態 y が出力に復号化され、推論状態 z が復号化されない。
彼らの失敗の多くは、誤った答えで再帰を妨げている悪い盆地(潜伏空間の領域)によるものである。
最近のテストタイムアプローチでは、これらの障害を回復するが、この選択がパフォーマンス、テストタイムの計算効率、スケーリング特性に与える影響は未定である。
TRMの制御実験により, 軌道の故障が解答状態にあることがわかった。
計算量,深さ,幅が等しく,再サンプリングされたyは,テストしたzの摂動よりも多くの障害を回復し,テストタイムの計算予算が増大するにつれて,性能ギャップが拡大する。
我々のアプローチであるGated Answer Resampling (GAR)は、解答状態の再サンプリングとモデル自身の停止ヘッドを組み合わせ、ヘッドが拒否するパズルのみを再起動する。
パズルごとに64回以上再起動し、トレーニングやハイパーパラメーター検索を行わないGARは、スドク・エクストリームでは85.9%から99.4%、ペンシル・プラグル・ベンチでは68.8%から85.6%となっている。
同じチェックポイントでは、GAR は Probabilistic TRM (PTRM) よりも優れており、PTRM が42倍から197倍の計算を使用する場合でも、各ステップで z を摂動させる。
関連論文リスト
- AERA: Adaptive Evidence Residual Allocation for Efficient Test-Time Reasoning [22.964476507912327]
テストタイムスケーリングは、追加の候補ソリューションを生成することによって言語モデル推論を改善するが、すべての問題に同じ推論予算を割り当てることは、計算的に無駄である。
チェックポイントレベルの正しさは非単調に進化し、解答が崩壊する前に観測可能な証拠が強化され、回復前に弱まる可能性があることを示す。
本稿では,チェックポイント・オブザーバブル・エビデンスから,さらなる計算がより良い解が得られるかどうかを学習するシーケンシャル・コントローラであるアダプティブ・エビデンス・レシデンス・アロケーション(AERA)を紹介する。
論文 参考訳(メタデータ) (2026-08-28T06:21:07Z) - ThinkRetrieve: Retrieval-Augmented Reasoning Traces for Test-Time Scaling [60.48279351544583]
ThinkRetrieveは大規模な推論モデルのためのテスト時間スケーリングフレームワークである。
それぞれの中間ステップで関連する例を検索し、思考トレースに直接注入する。
標準的なテスト時間スケーリングよりも精度が一貫して向上する。
論文 参考訳(メタデータ) (2026-08-11T13:58:07Z) - Beyond Fail-to-Pass: Iterative Hardening of Co-Generated Bug Reproduction Tests and Fixes [55.114939648705395]
大規模言語モデル(LLM)は、現実のバグに対して、プログラムの自動修正をますます実用的にしている。
バグ再現テスト(BRT)は、バグレポートを実行可能なバグ固有の信号に変換することで、このギャップを埋めるのに役立つ。
本稿では,ループ内収束基準としてLax信号を用いるコジェネレーションフレームワークであるCoHardenを提案する。
論文 参考訳(メタデータ) (2026-07-22T07:30:07Z) - ESPO: Early-Stopping Proximal Policy Optimization [78.79610718910628]
ESPO(Early-Stopping Proximal Policy Optimization)は、軌道上の障害を検出し、ロールアウトを早期に終了する。
DeepSeek-R1-Distill-Qwen-7Bでは、ESPOはAIME2024(46.28%対45.25%)、AMC2023(85.83%対82.94%)、MATH-500(87.42%対85.43%)でPPOを上回っている。
論文 参考訳(メタデータ) (2026-05-28T12:40:22Z) - Probabilistic Tiny Recursive Model [5.602735174786989]
Tiny Recursive Models (TRM)は、現代の大規模言語モデル(LLM)のパラメータのごく一部で複雑な推論タスクを解決する。
本稿では,テスト時間計算スケーリングのためのタスク依存フレームワークであるProbabilistic TRMを紹介する。
PTRMは、それぞれの深い再帰ステップでガウスノイズを注入し、平行軌道が様々な溶液盆地を探索することを可能にする。
論文 参考訳(メタデータ) (2026-05-19T15:00:38Z) - Rewarding the Scientific Process: Process-Level Reward Modeling for Agentic Data Analysis [68.28714988482703]
プロセス・リワード・モデル(PRM)は、LLM(Large Language Models)の推論能力を増強することに成功した。
本稿では,一般ドメインのPRMがデータ分析エージェントの監督に苦慮していることを示す。
本稿では,新しい環境対応生成プロセス報酬モデルであるDataPRMを紹介する。
論文 参考訳(メタデータ) (2026-04-27T09:00:30Z) - C-voting: Confidence-Based Test-Time Voting without Explicit Energy Functions [36.0589286158745]
信頼に基づく投票(C-voting)は、複数の潜在候補軌跡を持つ反復モデルのために設計されたテスト時間スケーリング戦略である。
C投票の精度はエネルギーベースの投票戦略よりも4.9%高い。
C-ボイティングの基本的な利点は、その適用性であり、明示的なエネルギー関数を必要とせずに再帰モデルに適用することができる。
論文 参考訳(メタデータ) (2026-04-15T06:10:12Z) - ROM: Real-time Overthinking Mitigation via Streaming Detection and Intervention [49.01160161589609]
再考は、大きな推論モデルが正しい答えに達した後、冗長な推論ステップを生成し続けるときに起こる。
本稿では,ストリーミング予測・制御問題として緩和を過度に検討する最初の方法であるROMを提案する。
ROMは最高精度(93.51%)、最短応答(1,159トークン)、最高応答効率を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:26:57Z) - Curing Miracle Steps in LLM Mathematical Reasoning with Rubric Rewards [40.905635870672945]
数学的推論のための大きな言語モデルは、通常結果に基づく報酬で訓練される。
我々の実験では、このパラダイムがハッキングに報酬を与える可能性が高く、モデルの推論能力のかなりの過大評価につながります。
これは、偽陽性の頻度が高いことが証明されている。
論文 参考訳(メタデータ) (2025-10-09T04:30:45Z) - TACRED Revisited: A Thorough Evaluation of the TACRED Relation
Extraction Task [80.38130122127882]
TACREDはリレーショナル抽出(RE)において最も大きく、最も広く使われているクラウドソースデータセットの1つである
パフォーマンスの天井に到達したのか、改善の余地はあるのか?
ラベルエラーは絶対F1テストエラーの8%を占めており、例の50%以上を可逆化する必要がある。
論文 参考訳(メタデータ) (2020-04-30T15:07:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。