論文の概要: ThinkRetrieve: Retrieval-Augmented Reasoning Traces for Test-Time Scaling
- arxiv url: http://arxiv.org/abs/2608.10928v1
- Date: Tue, 11 Aug 2026 13:58:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:46.064863
- Title: ThinkRetrieve: Retrieval-Augmented Reasoning Traces for Test-Time Scaling
- Title(参考訳): ThinkRetrieve: テスト時間スケーリングのための検索強化推論トレース
- Abstract要約: ThinkRetrieveは大規模な推論モデルのためのテスト時間スケーリングフレームワークである。
それぞれの中間ステップで関連する例を検索し、思考トレースに直接注入する。
標準的なテスト時間スケーリングよりも精度が一貫して向上する。
- 参考スコア(独自算出の注目度): 60.48279351544583
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Reasoning Models (LRMs) improve performance by allocating additional inference-time compute to generate extended chain-of-thought reasoning. However, recent studies reveal that sequential test-time scaling often yields diminishing or even negative returns, as longer traces exhibit increased uncertainty, error compounding, and drift from the original problem. We propose ThinkRetrieve, a test-time scaling framework that augments the reasoning traces of LRMs with dynamically retrieved solved examples at each reasoning step. Given an external corpus of problems paired with step-by-step solutions, ThinkRetrieve retrieves relevant exemplars at each intermediate step and injects them directly into the thinking trace, providing the model with guidance on how to reason rather than merely what facts are relevant. Experiments across five reasoning models (1.5B--8B parameters) on GSM-8K, MATH-500, AIME 2025, and SciQ demonstrate that ThinkRetrieve consistently improves accuracy over standard test-time scaling, with relative gains of up to $60\%$ on AIME 2025.
- Abstract(参考訳): 大規模推論モデル(LRM)は、追加の推論時間計算を割り当てて、拡張チェーンオブ思考推論を生成することで、性能を向上させる。
しかし、最近の研究では、連続的なテストタイムスケーリングは、長いトレースが元の問題からの不確実性、エラーの複合、およびドリフトを増大させるため、しばしば減少または負のリターンをもたらすことが示されている。
本稿では, LRM の推論トレースを動的に抽出した例を各推論ステップで拡張するテスト時間スケーリングフレームワークであるThinkRetrieveを提案する。
ステップバイステップのソリューションと組み合わせた問題の外部コーパスが与えられた場合、ThinkRetrieveは、各中間ステップで関連する例を検索し、それらを思考トレースに直接注入し、モデルに、どの事実が関連しているかではなく、どのように推論するかのガイダンスを提供する。
GSM-8K、MATH-500、AIME 2025、SciQの5つの推論モデル(1.5B--8Bパラメータ)に対する実験では、ThinkRetrieveは標準テスト時間スケーリングよりも一貫して精度を向上し、AIME 2025の相対的なゲインは最大60\%である。
関連論文リスト
- Efficient Test-Time Scaling via Temporal Reasoning Aggregation [5.87118425760756]
本稿では,効率的なテスト時間スケーリングのためのトレーニングフリーフレームワークであるTRACEを提案する。
TRACEは、多段階証拠の時間的集約に基づいて推論を終了するタイミングを決定する。
TRACEは1~2%の精度を保ちながら平均25~30%の推論トークン使用率を低下させることを示した。
論文 参考訳(メタデータ) (2026-04-19T07:39:40Z) - Precedent-Informed Reasoning: Mitigating Overthinking in Large Reasoning Models via Test-Time Precedent Learning [37.40951956513094]
大規模言語モデル(LLM)における推論は、しばしば、冗長な自己探索と検証を伴う非効率な長い連鎖トレースに悩まされる。
過去の事例を利用して検索空間を制約し、試行錯誤を減らすという人間の推論パターンに着想を得て、先行インフォームド推論(PIR)を提案する。
PIRは、LEMの推論パラダイムを、徹底的な自己探索から、前例からの指導的学習に転換する。
論文 参考訳(メタデータ) (2026-02-16T04:17:46Z) - NEAT: Neuron-Based Early Exit for Large Reasoning Models [37.88270573682948]
大規模な推論モデル(LRM)は、正しい解が到達した後に冗長な推論ステップが生成される現象であるエンフェーバー思考に悩まされることが多い。
既存の早期推論終了メソッドは、冗長な推論ステップをスキップするために出力レベルや訓練されたプローブモデルに依存している。
トレーニング不要早期退避を可能にするために,ニューロンレベルの活性化ダイナミクスを監視するフレームワークである textbfNEAT を提案する。
論文 参考訳(メタデータ) (2026-02-02T12:09:59Z) - APR: Penalizing Structural Redundancy in Large Reasoning Models via Anchor-based Process Rewards [61.52322047892064]
テスト時間スケーリング(TTS)は、Large Reasoning Models(LRM)の機能を大幅に強化した。
我々は, LRM が推論過程において最終回答を得た後も, 再検討なしに反復的自己検証を頻繁に行うことを観察した。
本稿では,Anchor-based Process Reward (APR)を提案する。
論文 参考訳(メタデータ) (2026-01-31T14:53:20Z) - Inverse Scaling in Test-Time Compute [51.16323216811257]
LRM(Large Reasoning Models)の推論長の延長は性能を低下させる。
モデルが長い理由付けをする場合には、5つの異なる障害モードを特定します。
これらの結果は、テストタイムの計算スケーリングはモデル機能の改善に引き続き期待できるが、問題のある推論パターンを必然的に補強する可能性があることを示唆している。
論文 参考訳(メタデータ) (2025-07-19T00:06:13Z) - What makes Reasoning Models Different? Follow the Reasoning Leader for Efficient Decoding [84.42056293290015]
推論モデルと非推論モデルの間のトークンレベルのミスアライメントを分析する。
本稿では,FoReaL-Decodingを提案する。
一般的な4つの数学推論ベンチマークにおいて、FoReaL-Decodingは理論FLOPを30から50%減らし、CoTの長さを最大40%減らした。
論文 参考訳(メタデータ) (2025-06-08T05:08:32Z) - Let LRMs Break Free from Overthinking via Self-Braking Tuning [68.93713497579853]
大きな推論モデル(LRM)は思考の長い連鎖を生成することによって推論能力を著しく向上させた。
この性能向上は、生成プロセス中の冗長な推論を大幅に増加させるコストが伴う。
本稿では、モデルが独自の推論プロセスを制御することを許容する観点から、過度に検討する新しいフレームワーク、Self-Braking Tuning(SBT)を提案する。
論文 参考訳(メタデータ) (2025-05-20T16:53:40Z) - Dynamic Early Exit in Reasoning Models [21.30793518631921]
長いチェーン・オブ・シンクレット(CoT)生成における再考は、問題解決の効率を低下させるだけでなく、精度損失のリスクも引き起こす。
我々は,LLMが生成時に早期終了によってCoT配列を自己トランケートできる簡易かつ効果的な方法を提案する。
提案手法は追加のトレーニングを必要とせず,既存の o1 ライクな推論 LLM にシームレスに統合することができる。
論文 参考訳(メタデータ) (2025-04-22T13:36:53Z) - Towards Thinking-Optimal Scaling of Test-Time Compute for LLM Reasoning [108.07030347318624]
より長い思考の連鎖(CoTs)によるスケーリングは、特定の領域におけるLarge Language Models(LLMs)の推論性能を損なう可能性があることを示す。
深層思考に異なる推論手法を採用するためのモデルを教えるための思考-最適スケーリング戦略を提案する。
我々のQwen2.5-32B-Instructに基づく自己改善モデルは、様々なベンチマークで他の蒸留ベースの32B o1-likeモデルより優れています。
論文 参考訳(メタデータ) (2025-02-25T10:48:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。