論文の概要: Give Up to Get More: Priors, Not Policies, Govern Test-Time Compute Allocation
- arxiv url: http://arxiv.org/abs/2611.06372v1
- Date: Wed, 04 Nov 2026 11:32:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.094692
- Title: Give Up to Get More: Priors, Not Policies, Govern Test-Time Compute Allocation
- Title(参考訳): より多くを得るために - プライオリティ、ポリシ、テスト時間コンピューティングアロケーションを回避
- Abstract要約: 多くの入力が大きな言語モデルによる繰り返しの試みの予算を共有している場合、共通のルールはより難しい入力を与える。
公的な数学、コード、形式的に保護されたサンプルについて、最も公表された難易度比例則は、モデルがほとんど解決するベンチマークのオラクルゲインの半分以上をキャプチャする。
1つの試みの値が中間的困難でピークとなるため、最適な静的アロケーションは逆Uとなる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When many inputs share a budget of repeated attempts by a large language model (LLM), a common rule gives harder inputs more. On public math, code and formal-proof samples, the best published difficulty-proportional rule captures half or more of the oracle gain on benchmarks the model mostly solves, but at most 13% on hard workloads, even given true pass rates. Because the value of one more attempt peaks at intermediate difficulty, the optimal static allocation is inverted-U and gives little to inputs that are hopeless at the current budget. In a strict survey of 221 LLM allocation papers, at least 13 give the hardest inputs the most attempts; their easier settings sit at budgets where this is near-optimal, so the cost appears on harder workloads. Acting on it requires knowing which inputs are solvable, so information, not the policy, drives the gain. With a verifier and a prior from a related model's past runs on the same inputs, Thompson Sampling raises the solved share on the hardest workload from 14% to 27%; without such a prior, no policy we tested beats round-robin. For the policies we tested, the gain vanishes between prior rank correlations of about 0.3 and 0.55, which cheap text-based priors barely reach on the weakest models, and it requires a verifier whose false acceptances are rare relative to the pass rate. On new Qwen2.5 samples the pattern holds, and tempering the prior avoids losses on easy workloads. We turn these results into a decision guide.
- Abstract(参考訳): 多くの入力が大きな言語モデル(LLM)による繰り返し試みの予算を共有している場合、共通のルールはより難しい入力を与える。
公開数学、コード、形式的保護サンプルにおいて、最も公表された難易度比例則は、ベンチマークのオラクルゲインの半分以上を捕捉するが、ハードワークロードでは最大で13%、真のパスレートが与えられている。
1つの試みの値が中間的困難でピークとなるため、最適な静的アロケーションは逆Uであり、現在の予算では望ましくない入力はほとんど与えない。
221 LLMの割り当て論文の厳密な調査では、少なくとも13が最も難しいインプットを最も多く提供しています。
それを実行するには、どの入力が解決可能かを知る必要があります。
検証器と関連するモデルの過去の前者が同じ入力で実行されるので、Thompson Sampling氏は最も難しいワークロードの解決されたシェアを14%から27%に引き上げる。
テストしたポリシーでは、低いテキストベースの事前が最弱モデルにほとんど達しない0.3と0.55の事前ランク相関の間に利得が消失し、パスレートに対して偽の受け入れが稀な検証器が必要となる。
新しいQwen2.5のサンプルでは、パターンが保持され、前者が簡単なワークロードで損失を避けることができる。
これらの結果を意思決定ガイドにします。
関連論文リスト
- When Does Test-Time Search Help World Action Models? An Empirical Audit of Candidate Selection and Simulator Integrity [46.258960428253346]
コスモス政策とロボカサの試験時間スケーリングを前提優先の事前登録手法で監査する。
クリーンデータでは、学習した値セレクタはランダムよりも1.66 pp、後光オラクルはわずか1.40 pp、エピソードレベルの間隔は0である。
我々は、公式の直接政治結果に影響を与えないまま、計算量の多い計画経路に沿って急上昇する静かなレンダリングの汚職を特定し、修正する。
論文 参考訳(メタデータ) (2026-10-30T16:21:07Z) - Estimating problem difficulty without ground truth using Large Language Model comparisons [4.599673637363014]
そこで本研究では,LLMとLLMを比較し,問題の難易度を推定する手法を提案する。
LLMはペアの難易度比較を行い、Bradley-Terryスコアは結果に基づいて計算される。
我々の研究は、時間を要する人間のアノテーションと合成データ生成を置き換えるための重要なステップである。
論文 参考訳(メタデータ) (2025-12-16T09:13:56Z) - Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。
Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。
この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
論文 参考訳(メタデータ) (2025-10-07T14:46:12Z) - Clotho: Measuring Task-Specific Pre-Generation Test Adequacy for LLM Inputs [6.862079218077768]
特定のタスクで大規模言語モデルをテストするのは難しくてコストがかかります。
重要な課題は、タスクの要求を反映した方法で入力精度を評価することである。
タスク固有のプレジェネレーションアプライバシ尺度であるCLOTHOを導入する。
論文 参考訳(メタデータ) (2025-09-22T02:34:09Z) - Thompson Exploration with Best Challenger Rule in Best Arm Identification [59.02170783023547]
本稿では,バンドイットフレームワークにおける固定信頼度最良腕識別問題について検討する。
我々は、トンプソンサンプリングと、ベストチャレンジャールールとして知られる計算効率の良いアプローチを組み合わせた新しいポリシーを提案する。
論文 参考訳(メタデータ) (2023-10-01T01:37:02Z) - Sequential Kernelized Independence Testing [77.237958592189]
我々は、カーネル化依存度にインスパイアされたシーケンシャルなカーネル化独立試験を設計する。
シミュレーションデータと実データの両方にアプローチのパワーを実証する。
論文 参考訳(メタデータ) (2022-12-14T18:08:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。