論文の概要: MatryoshkaThinking: Recursive Test-Time Scaling Enables Efficient Reasoning

• arxiv url: http://arxiv.org/abs/2510.10293v1
• Date: Sat, 11 Oct 2025 17:18:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-14 18:06:29.879857
• Title: MatryoshkaThinking: Recursive Test-Time Scaling Enables Efficient Reasoning
• Title（参考訳）: MatryoshkaThinking: 再帰的なテスト時間スケーリングにより、効率的な推論が可能になる
• Authors: Hongwei Chen, Yishu Lei, Dan Zhang, Bo Ke, Danxiang Zhu, Xuyi Chen, Yuxiang Lu, Zhengjie Huang, Shikun Feng, Jingzhou He, Yu Sun, Hua Wu, Haifeng Wang,
• Abstract要約: MatryoshkaThinkingは、最先端性能を維持しながら計算コストを大幅に削減する新しい手法である。 MatryoshkaThinkingは、DeepConfが必要とする計算の4%しか必要とせず、AIME2025で99.79のスコアを得た。
• 参考スコア（独自算出の注目度）: 33.47806621047652
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Test-time scaling has emerged as a promising paradigm in language modeling, wherein additional computational resources are allocated during inference to enhance model performance. Recent approaches, such as DeepConf, have demonstrated the efficacy of this strategy, however, they often incur substantial computational overhead to achieve competitive results. In this work, we propose MatryoshkaThinking, a novel method that significantly reduces computational cost while maintaining state-of-the-art performance. Specifically, MatryoshkaThinking attains a score of 99.79 on AIME2025 using only 4% of the computation required by DeepConf. The core of our approach lies in the recursive exploitation of the model's intrinsic capabilities in reasoning, verification, and summarization, which collectively enhance the retention of correct solutions and reduce the disparity between Pass@k and Pass@1. Comprehensive evaluations across multiple open-source models and challenging multi-modal reasoning benchmarks validate the effectiveness and generality of our method. These findings offer new insights into the design of efficient and scalable test-time inference strategies for advanced language models.
• Abstract（参考訳）: テストタイムスケーリングは言語モデリングにおいて有望なパラダイムとして現れており、モデルの性能を高めるために推論中に追加の計算資源が割り当てられている。 近年のDeepConfのようなアプローチでは、この戦略の有効性が証明されているが、競合する結果を得るためには、かなりの計算オーバーヘッドが生じることが多い。 本研究では,最先端性能を維持しつつ,計算コストを大幅に削減する新しい手法であるMatryoshkaThinkingを提案する。 具体的には、MatryoshkaThinkingはDeepConfが必要とする計算の4%しか必要とせず、AIME2025で99.79のスコアを得る。 このアプローチの核心は、推論、検証、要約におけるモデルの本質的な能力を再帰的に活用することにあり、それによって正しい解の保持が促進され、Pass@kとPass@1の相違が軽減される。 複数のオープンソースモデルに対する包括的評価とマルチモーダル推論ベンチマークにより,本手法の有効性と汎用性を検証した。 これらの発見は、高度な言語モデルのための効率的でスケーラブルなテスト時間推論戦略の設計に関する新たな洞察を提供する。

関連論文リスト

• ARISE: An Adaptive Resolution-Aware Metric for Test-Time Scaling Evaluation in Large Reasoning Models [102.4511331368587]
  ARISE(Adaptive Resolution-Aware Scaling Evaluation)は、大規模推論モデルの試験時間スケーリングの有効性を評価するために設計された新しい尺度である。 我々は、様々な領域にわたる最先端の推論モデルを評価する包括的な実験を行う。
  論文  参考訳（メタデータ） (2025-10-07T15:10:51Z)
• Efficient Test-Time Scaling for Small Vision-Language Models [14.654047034885288]
  小型ビジョンランゲージモデル (Small Vision-Language Models, VLM) は、より大きなモデルに対する計算的に効率的な代替手段を提供する。 既存の手法は典型的には計算的に要求され、小さなモデルの資源効率の高い設計目標と矛盾する。 外部監視よりもモデル内部の特徴を活用する新しい,効率的な2つのテストタイムスケーリング戦略を提案する。
  論文  参考訳（メタデータ） (2025-10-03T23:49:06Z)
• Scaling Up, Speeding Up: A Benchmark of Speculative Decoding for Efficient LLM Test-Time Scaling [38.27469349005585]
  テストタイムスケーリングは、大規模言語モデルの推論能力を高めるための強力なパラダイムである。 テストタイムのスケーリングは、冗長かつ反復的な推論トレースの生成によって本質的に非効率である。 テスト時間スケーリングを高速化する投機的復号法を評価するために設計された最初の包括的なベンチマークを紹介する。
  論文  参考訳（メタデータ） (2025-08-30T01:54:55Z)
• Accelerated Test-Time Scaling with Model-Free Speculative Sampling [58.69141724095398]
  STAND(Stochastic Adaptive N-gram Drafting)は,新しいモデルフリーな投機的デコード手法である。 従来の自己回帰復号法と比較して,STANDは推論遅延を60～65%削減することを示した。 モデルフリーのアプローチとして、STANDは追加のトレーニングなしで既存の言語モデルに適用できる。
  論文  参考訳（メタデータ） (2025-06-05T07:31:18Z)
• PixelThink: Towards Efficient Chain-of-Pixel Reasoning [70.32510083790069]
  PixelThinkは、外部から推定されるタスクの難しさと内部で測定されたモデルの不確実性を統合する、シンプルで効果的なスキームである。 シーンの複雑さと予測信頼度に応じて推論の長さを圧縮することを学ぶ。 実験により,提案手法は推論効率と全体セグメンテーション性能の両方を改善した。
  論文  参考訳（メタデータ） (2025-05-29T17:55:49Z)
• To Code or not to Code? Adaptive Tool Integration for Math Language Models via Expectation-Maximization [30.057052324461534]
  本稿では,メタ認知ツール利用決定と進化能力の間の自己強化サイクルを構築するために,構造化探索(E-step)と非政治最適化(M-step)を併用する新しいフレームワークを提案する。 当社の7Bモデルは、MATH500では11%、AIMEでは9.4%、o1のようなCoTでは9.4%改善しています。
  論文  参考訳（メタデータ） (2025-02-02T06:32:23Z)
• Do NOT Think That Much for 2+3=? On the Overthinking of o1-Like LLMs [76.43407125275202]
  o1のようなモデルは、推論中に人間のような長時間の思考をエミュレートすることができる。 本論文は,これらのモデルにおける過度な考察の課題に関する,最初の包括的研究である。 精度を損なうことなく、過剰思考を緩和し、推論プロセスを合理化するための戦略を提案する。
  論文  参考訳（メタデータ） (2024-12-30T18:55:12Z)
• Optimal Query Allocation in Extractive QA with LLMs: A Learning-to-Defer Framework with Theoretical Guarantees [3.4289478404209826]
  大規模言語モデルは生成タスクでは優れているが、構造化されたテキスト選択では非効率である。 本稿では,専門的な専門家にクエリを割り当て,信頼性の高い予測を確実にする学習者向けフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-21T08:21:00Z)
• Token-Supervised Value Models for Enhancing Mathematical Problem-Solving Capabilities of Large Language Models [56.32800938317095]
  既存の検証器はテスト時の木探索技術に準最適である。 トークン制御値モデル(TVM)を提案する。 TVMは各トークンに、正しい最終回答に達する確率を反映した確率を割り当てる。
  論文  参考訳（メタデータ） (2024-07-12T13:16:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。