論文の概要: Granularity-Regulated Adaptive Computational Efficiency for Optimal Verification in Test-Time Scaling

• arxiv url: http://arxiv.org/abs/2606.19354v1
• Date: Tue, 28 Apr 2026 18:19:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:12.92348
• Title: Granularity-Regulated Adaptive Computational Efficiency for Optimal Verification in Test-Time Scaling
• Title（参考訳）: テスト時間スケーリングにおける最適検証のための粒度制御型適応計算効率
• Abstract要約: テストタイムスケーリング(TTS)は、大規模言語モデルの推論性能を改善するための強力なパラダイムとして登場した。 TTSの中心的なコンポーネントは、検索プロセスのガイドとして候補ソリューションを選択したり、スコア付けしたりするアンフェリファイア(enmphverifier)である。 計算予算が大きければきめの粗い検証が優先されるのに対して、粗い粗い検証は低予算で易確率なシステムでは好まれる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Test-time scaling (TTS) has emerged as a powerful paradigm for improving the reasoning performance of large language models (LLMs) by investing additional compute at inference time. A central component of TTS is the \emph{verifier}, which selects or scores candidate solutions to guide the search process. While prior work has explored the benefit of verification, a fundamental question remains underexplored: \emph{what is the optimal granularity of verification under a given compute budget?} Coarse-grained outcome reward models (ORMs) and fine-grained process reward models (PRMs) represent two extremes, yet neither alone achieves compute-optimality across all regimes. In this paper, we establish a unified theoretical framework, called \textbf{GRACE} (\underline{G}ranularity-\underline{R}egulated \underline{A}daptive \underline{C}omputational \underline{E}fficiency), that characterizes the optimal verification granularity as an explicit function of problem difficulty, verifier accuracy, and compute budget. We prove that there exists a phase transition: fine-grained verification dominates when either the compute budget is large or the problem is hard, whereas coarse-grained verification is preferred in the low-budget, easy-problem regime. Our theory unifies Best-of-$N$, beam search, and step-level MCTS within a single Pareto-optimality framework, and motivates an adaptive granularity strategy that provably achieves the compute-performance Pareto frontier. Empirical results on MATH-500, GSM8K, and AIME benchmarks corroborate all four theoretical claims, with our adaptive strategy outperforming fixed-granularity baselines by up to 3.1\% accuracy at matched compute.
• Abstract（参考訳）: テストタイムスケーリング(TTS)は,大規模言語モデル(LLM)の推論性能を改善するための強力なパラダイムとして,推論時に新たな計算に投資することによって登場した。 TTS の中心的なコンポーネントは \emph{verifier} である。 以前の研究は検証の利点を探求してきたが、根本的な疑問は未解決のままである。 粗い結果報酬モデル(ORM)ときめ細かいプロセス報酬モデル(PRM)は2つの極端を表す。 本稿では, 問題難易度, 検証精度, 計算予算の明示的な関数として最適検証粒度を特徴付ける, 統一的理論フレームワークである \textbf{GRACE} (\underline{G}ranularity-\underline{R}egulated \underline{A}daptive \underline{C}omputational \underline{E}fficiency) を確立する。 計算予算が大きければきめの粗い検証が優先されるのに対して、粗い粗い検証は低予算で易確率なシステムでは好まれる。 我々の理論は1つのPareto-optimalityフレームワークにBest-of-N$、ビームサーチ、ステップレベルのMCTSを統一し、計算性能のParetoフロンティアを確実に達成する適応的な粒度戦略を動機付けている。 MATH-500, GSM8K, AIME ベンチマークの実証的な結果は、4つの理論的主張の全てを裏付けるものであり、我々の適応戦略は一致した計算で最大3.1\%の精度で固定粒度ベースラインを上回ります。

関連論文リスト

• SuCo: Sufficiency-guided Continuous Adaptive Reasoning [59.17222918775686]
  大型共振モデル(LRM)は、しばしば超長鎖(CoT)を生成する。 この非効率を緩和するための既存の取り組みは、通常、個別の推論モードや固定予算層に依存します。 我々は,CoTトラジェクトリの最短接頭辞として定義された最小サフィシエント CoT (MSC) を導入する。
  論文  参考訳（メタデータ） (2026-06-16T08:52:15Z)
• Soft Tuy-Completeness for Robust Projection Selection in Cone-Beam CT [4.213649496201482]
  本研究は、関心領域集束コーンビームCTにおける投射選択のための、連続したソフトなほぼ直交性スコアと、分解能を考慮した飽和被曝目標を導入する。
  論文  参考訳（メタデータ） (2026-05-20T12:37:15Z)
• Adaptive Test-Time Compute Allocation for Reasoning LLMs via Constrained Policy Optimization [18.737087162461563]
  テストタイムの計算スケーリングは、大規模言語モデルのパフォーマンスを向上させるための強力なレバーとなっている。 しかし、これらのテクニックを有限の推論予算の下で展開するには、現在のシステムがほとんど無視する決定が必要である。 我々はこれを制約付き最適化問題(平均計算予算の予測精度を最大化する)として定式化し、2段階のソルベ・テン・ラーンパイプラインで解いた。
  論文  参考訳（メタデータ） (2026-04-16T10:39:22Z)
• ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
  ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。 我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-27T05:22:01Z)
• Principled Algorithms for Optimizing Generalized Metrics in Binary Classification [53.604375124674796]
  一般化されたメトリクスを最適化するアルゴリズムを導入し、$H$-consistency と finite-sample generalization bounds をサポートする。 提案手法は,メトリクス最適化を一般化したコスト依存学習問題として再検討する。 我々は,理論性能を保証する新しいアルゴリズムMETROを開発した。
  論文  参考訳（メタデータ） (2025-12-29T01:33:42Z)
• Peering Inside the Black Box: Uncovering LLM Errors in Optimization Modelling through Component-Level Evaluation [0.0]
  大規模言語モデル(LLM)のためのコンポーネントレベル評価フレームワークを提案する。 GPT-5、LLaMA 3.1命令、DeepSeek Mathを様々な複雑さの最適化問題で評価する。 その結果、GPT-5は他のモデルよりも一貫して優れており、チェーン・オブ・シンク、自己整合性、モジュール性がより効果的であることを証明している。
  論文  参考訳（メタデータ） (2025-10-19T17:47:59Z)
• Rethinking Optimal Verification Granularity for Compute-Efficient Test-Time Scaling [8.593971468631613]
  テストタイムスケーリング(TTS)は,大規模言語モデル(LLM)の推論能力の向上に有効であることが証明された。 検証は,(1)推論性能と(2)計算効率に影響を与えると同時に,TTSにおいて重要な役割を担っている。 本稿では、ビーム探索を一般化する統一アルゴリズムである可変粒度探索(VG-Search)と、可変粒度パラメータgによるベストオブNサンプリングを紹介する。
  論文  参考訳（メタデータ） (2025-05-16T22:24:48Z)
• Supervised Optimism Correction: Be Confident When LLMs Are Sure [91.7459076316849]
  教師付き微調整とオフライン強化学習の間には,新たな理論的関係が確立されている。 広く使われているビームサーチ法は、許容できない過度な最適化に悩まされていることを示す。 本稿では,トークンレベル$Q$-value推定のための簡易かつ効果的な補助的損失を導入したSupervised Optimism Correctionを提案する。
  論文  参考訳（メタデータ） (2025-04-10T07:50:03Z)
• Is Best-of-N the Best of Them? Coverage, Scaling, and Optimality in Inference-Time Alignment [54.787826863212146]
  推論時間計算は、言語モデルのパフォーマンスをスケールするための強力な軸を提供する。 我々は, (i) 応答品質, (ii) 計算量の観点から, 推論時アライメントアルゴリズムの性能を解析する。 我々は$textttInferenceTimePessimism$を紹介した。これは推論時間計算の故意使用を通じて報酬ハッキングを緩和する新しいアルゴリズムである。
  論文  参考訳（メタデータ） (2025-03-27T18:00:08Z)
• Best Arm Identification in Stochastic Bandits: Beyond $\beta-$optimality [31.359578768463752]
  本稿では,固定信頼設定における多腕バンディットにおけるベストアーム識別(BAI)の非装飾的側面について検討する。 帯域幅アルゴリズムを評価するための2つの重要な指標は、計算効率と性能最適性である。 本稿では,BAIのためのフレームワークとアルゴリズムを導入し,計算効率のよい決定ルールセットを用いて最適性能を実現する。
  論文  参考訳（メタデータ） (2023-01-10T05:02:49Z)
• Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
  本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。 最先端アルゴリズムの利点を論じ、解説する。
  論文  参考訳（メタデータ） (2020-09-28T15:22:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。