論文の概要: Test-Time Scaling in the Wild: Why Exploitation, Not Exploration, Is the Bottleneck

• arxiv url: http://arxiv.org/abs/2608.18931v1
• Date: Wed, 19 Aug 2026 13:59:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.420497
• Title: Test-Time Scaling in the Wild: Why Exploitation, Not Exploration, Is the Bottleneck
• Title（参考訳）: 自然界におけるテストタイムスケーリング:なぜ爆発は探索ではなく、ボトルネックなのか
• Abstract要約: テストタイムスケーリング(TTS)は、追加の推論計算を使用することで、言語モデルの出力を改善する。 5世代ベンチマークで5つのTSファミリーの計算正規化比較を行った。
• 参考スコア（独自算出の注目度）: 1.4991111518581999
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Test-time scaling (TTS) improves language model outputs by spending additional inference compute - generating multiple candidates, searching over partial sequences, or iteratively refining drafts. These techniques yield large gains on mathematics and code, but have been developed and stress-tested almost exclusively on tasks where verification is straightforward. We conduct the first compute-normalised comparison of five TTS families across five open-ended generation benchmarks spanning medicine, law, finance, general chat, and creative writing - grounded in a unified framework that decomposes the effectiveness of each method's token budget into exploration and exploitation. The answer depends on which side of that decomposition you examine. Scaling exploration works: the best candidate in the pool improves steadily with compute across all settings. What breaks is exploitation - the step that converts a rich candidate pool into a final output. With state-of-the-art generators, reward models correlate at only $ρ_v \approx 0.12$ with true quality, rendering selection near-random regardless of budget. Tree search amplifies this failure through diversity collapse. Refinement helps on one of five benchmarks; its apparent gains elsewhere are confounded. Only synthesis across candidates (Fusion) consistently improves over single-sample baselines, yet still recovers only ~40% of available quality. The candidate pool is not the bottleneck - choosing from it is.
• Abstract（参考訳）: テストタイムスケーリング(TTS)は、複数の候補の生成、部分シーケンスの検索、あるいはドラフトの反復的な修正など、追加の推論計算を使用することで、言語モデルの出力を改善する。 これらのテクニックは、数学やコードに大きな利益をもたらすが、検証が単純であるタスクにのみ、開発され、ストレステストが実施されている。 我々は,医学,法学,金融学,一般チャット,創造的文章にまたがる5つのオープンエンド世代ベンチマークにおける5つのTSファミリーの計算正規化比較を行い,各手法のトークン予算の有効性を探索と利用に分解する統一的な枠組みを基礎とした。 答えは、検証する分解のどちら側かによって異なります。 プールの最良の候補は、すべての設定をまたいだ計算によって着実に改善されます。 これは、リッチな候補プールを最終的な出力に変換するステップです。 最先端のジェネレータでは、報酬モデルは真の品質とわずか$ρ_v \approx 0.12$で相関し、予算に関わらずほぼランダムに選択される。 ツリーサーチは多様性の崩壊によってこの失敗を増幅する。 リファインメントは5つのベンチマークのうちの1つに役立つ。 候補間の合成(Fusion)は単一サンプルベースラインよりも一貫して改善されるが、利用可能な品質の約40%しか回復しない。 候補プールはボトルネックではありません。

関連論文リスト

• Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning [3.8191765711200065]
  本稿では,テスト時間計算を用いて候補解の探索と改良を行う検証自由幅改良フレームワークを提案する。 提案手法は, 難解な復号化, 多数決投票, 検証器ベースのベスト・オブ・N$, ビームサーチ, および複数のオープンウェイトモデル間でのルック・復号化を一貫して改善する。
  論文  参考訳（メタデータ） (2026-08-06T06:38:37Z)
• REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
  本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。 我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
  論文  参考訳（メタデータ） (2026-06-17T10:37:23Z)
• $S^3$: Stratified Scaling Search for Test-Time in Diffusion Language Models [10.157422365382933]
  テスト時間スケーリングは、より多くの推論計算が与えられたとき、固定拡散言語モデル(DLM)がより良い出力を生成できるかどうかを調べる。 S3$ (Stratified Scaling Search) は,デノナイズ処理中に計算を再配置することで生成を改善するバリデーション誘導探索法である。 LLaDA-8B-Instruct on MATH-500, GSM8K, ARC-Challenge, TruthfulQA による実験では、S3$ はベンチマーク全体のパフォーマンスを一貫して改善している。
  論文  参考訳（メタデータ） (2026-04-07T00:51:06Z)
• Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
  本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。 ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。 トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
  論文  参考訳（メタデータ） (2026-02-26T11:08:39Z)
• Pushing Test-Time Scaling Limits of Deep Search with Asymmetric Verification [40.75612723453356]
  特定の文脈(例えば、スドゥークパズルの解法)において、応答の検証はそれらを生成するよりもはるかに容易である。 深層探索エージェントの逐次的かつ並列的なTSについて検討し、この設定での検証は生成よりもはるかに容易である、という直感に動機づけられた。 我々は、フラッグシップのオープンソースモデルで実験を行い、それらをTSを通じてHeavy'の亜種に拡張します。
  論文  参考訳（メタデータ） (2025-10-07T17:09:23Z)
• Online Learning of Optimal Sequential Testing Policies [7.8024154978341365]
  被験者のストリームに対して最適なテストポリシーを求めるオンライン学習問題について検討する。 対象に対するすべての候補テストを実行することで、より多くの情報が得られるが、サブセットのみを選択することが望ましい場合が多い。 我々は、ミニマックスの後悔は少なくとも$Omega(Tfrac23)$としてスケールしなければならないことを証明し、エピソードMDPの$Theta(sqrtT)$レートとは対照的である。
  論文  参考訳（メタデータ） (2025-09-03T20:44:32Z)
• Efficient Algorithms for Logistic Contextual Slate Bandits with Bandit Feedback [0.8287206589886881]
  本稿では,ロジスティック・コンテクスト・スレート・バンド問題について考察する。 選択したスレートに対して、ロジスティックモデルにより決定された単一のバイナリ報酬が観測される。 本稿では,Slate-GLM-OFUとSlate-GLM-TSの2つのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-06-16T07:19:02Z)
• $\texttt{SPECS}$: Faster Test-Time Scaling through Speculative Drafts [55.231201692232894]
  $textttSPECS$は、投機的デコードにインスパイアされた遅延対応のテスト時間スケーリングメソッドである。 我々の結果は、$textttSPECS$matchはビームサーチの精度を上回り、最大$sim$19.1%のレイテンシを削減していることを示している。
  論文  参考訳（メタデータ） (2025-06-15T05:50:05Z)
• From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
  以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。 実現可能な最小二乗の設定において、新しい最上界を創出する。 我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
  論文  参考訳（メタデータ） (2025-04-06T18:39:45Z)
• Sample, Don't Search: Rethinking Test-Time Alignment for Language Models [55.2480439325792]
  新しいテストタイムアライメントアプローチであるQAlignを紹介します。 テスト時間計算をスケールする際、QAlignは各プロンプトの最適配向分布からのサンプリングに収束する。 マルコフ連鎖モンテカルロのテキスト生成における最近の進歩を取り入れることで、基礎となるモデルを変更したり、ロジットアクセスを必要とせずに、より良い整合出力を可能にする。
  論文  参考訳（メタデータ） (2025-04-04T00:41:40Z)
• Don't Get Lost in the Trees: Streamlining LLM Reasoning by Overcoming Tree Search Exploration Pitfalls [83.89771461061903]
  検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。 検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。 意味論的に等価なコンテンツを持つ冗長な状態による$textitover-Exploration$と、検証器のスコアリングにおける高いばらつきに起因する$textitunder-Exploration$である。 各種木探索アルゴリズムに適合するフレキシブルなプラグアンドプレイシステムであるFETCHを提案する。
  論文  参考訳（メタデータ） (2025-02-16T16:12:01Z)
• Planning In Natural Language Improves LLM Search For Code Generation [5.370466208990696]
  自然言語における問題解決のための新しい探索アルゴリズムであるPlanSearchを提案する。 PlanSearchはHumanEval+、MBPP+、LiveCodeBenchで強力な結果を示している。 すべてのモデル、検索アルゴリズム、および分析されたベンチマークにおいて、検索によるパフォーマンス向上を正確に予測できることが示される。
  論文  参考訳（メタデータ） (2024-09-05T17:44:49Z)
• Truncation Sampling as Language Model Desmoothing [115.28983143361681]
  ニューラルネットワークモデルからのテキストの長いサンプルは、品質が劣る可能性がある。 トランケーションサンプリングアルゴリズムは、各ステップでいくつかの単語の確率を0に設定する。 本稿では,単語をエントロピーに依存した確率閾値以下に切り詰める$eta$-samplingを導入する。
  論文  参考訳（メタデータ） (2022-10-27T05:52:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。