論文の概要: Sample, Mix, or Verify? Allocating Test-Time Compute under Imperfect Verifiers

• arxiv url: http://arxiv.org/abs/2610.23255v1
• Date: Fri, 16 Oct 2026 10:28:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.874614
• Title: Sample, Mix, or Verify? Allocating Test-Time Compute under Imperfect Verifiers
• Title（参考訳）: サンプル, 混合, 検証? 不完全検証によるテスト時間計算の割り当て
• Abstract要約: SPLITは正しい回答を提出する確率の正確な公式である。 実験的なベイズの公式に適合し、目に見えないタスクの予算計画に使用する。 パイロットをはるかに超える予測器として、SPLITは検証者が成功すると、パワーローフィッティングを破る。
• 参考スコア（独自算出の注目度）: 0.2065179573803396
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A common way to make language models and agents more accurate is to spend more compute at inference time: generate many candidate solutions and submit the one a verifier prefers. Success then requires that some candidate is correct and that the verifier picks it. The first grows predictably with the number of samples; the second does not, because real verifiers (unit tests, majority votes, LLM judges, reward models) accept wrong answers, reject right ones, and make correlated mistakes. With a fixed budget, a practitioner must decide how many samples to draw, which models to draw them from, and how much to spend on verification, and today these choices are made by rules of thumb. We introduce SPLIT, which makes them from a small labelled pilot. It rests on an exact formula for the probability of submitting a correct answer under accept/reject and top-score selection that accounts for varying task difficulty, blind spots shared across models, and correlated repeated verifier calls. SPLIT fits the formula by empirical Bayes and uses it to plan budgets on unseen tasks. Across seven benchmarks spanning math, science QA, code and software-engineering agents, 26 models, 175 agent systems and six kinds of real verifiers, all from public releases, SPLIT lands within 0.02-0.8 percentage points of the best allocation in hindsight, while every fixed rule we test loses at least 2.5 points in some setting. Regret depends only on how well SPLIT ranks configurations, and it stays near-optimal under compute, price and latency costs and online. The formula also explains when asking more LLM judges lowers precision. As a forecaster far beyond the pilot, SPLIT beats power-law fitting when the verifier caps success, and we report where it loses.
• Abstract（参考訳）: 言語モデルとエージェントをより正確にするための一般的な方法は、推論時により多くの計算を費やすことである。 成功するには、ある候補が正しいことと、検証者がそれを選択する必要がある。 本当の検証者(単体テスト、多数決、LLM審査員、報酬モデル)は間違った答えを受け入れ、正しい答えを拒絶し、矛盾する誤りを犯すためである。 一定の予算で、実践者は、描画するサンプルの数、描画するモデル、検証に費やす費用、そして今日では、これらの選択は親指の規則によって行われます。 SPLITを導入し、小さなラベル付きパイロットから作成する。 それは、タスクの難易度、モデル間で共有される盲点、および相関した検証呼び出しを考慮に入れた、受け入れ/拒絶とトップスコアの選択の下で正しい回答を提出する確率の正確な公式に依拠する。 SPLITは経験的ベイズの公式に適合し、目に見えないタスクの予算計画にそれを使う。 数学、科学QA、コードおよびソフトウェアエンジニアリングエージェント、26のモデル、175のエージェントシステム、および6種類の実際の検証対象を含む7つのベンチマークで、すべて公開リリースから、SPLITは、後向きの最高のアロケーションの0.02-0.8ポイント以内に到達します。 Regretは構成のランク付けにのみ依存し、計算、価格、レイテンシーのコストとオンラインのコストでほぼ最適である。 LLMの審査員数を増やすと精度が低下する。 パイロットをはるかに超える予測器として、検証器が成功すると、SPLITはパワーローフィッティングを破り、どこを失うか報告する。

関連論文リスト

• Checking the Checkers: A Synthesis of Verifier Noise and Robustness in RLVR [0.0]
  検証可能な報酬付き強化学習(RLVR)は、大規模言語モデルの推論を改善するための主要なレシピとなっている。 この研究は、これらの検証エラーを測定し、分析し、軽減する58の研究を調査する。 我々は、検証者がどのようなエラーを犯すか、それがトレーニングにどう影響するか、どのエラーに対してどの軽減策が機能するか、そして結果が自己生成、ルーリック、および判断に基づく、検証不要な報酬にどのように拡張するかを問う。
  論文  参考訳（メタデータ） (2026-10-13T06:44:33Z)
• Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning [3.8191765711200065]
  本稿では,テスト時間計算を用いて候補解の探索と改良を行う検証自由幅改良フレームワークを提案する。 提案手法は, 難解な復号化, 多数決投票, 検証器ベースのベスト・オブ・N$, ビームサーチ, および複数のオープンウェイトモデル間でのルック・復号化を一貫して改善する。
  論文  参考訳（メタデータ） (2026-08-06T06:38:37Z)
• LLMs as a Jury: Cross-Model Consensus Can Outperform Process Reward Models for LLM Reasoning [6.241883798820154]
  モデル間コンセンサス(モデル間コンセンサス)について検討し、独立に訓練されたモデル(各モデルが一度解ける程度)が最終解に一致するかを検討した。 パネルをLCM判定として扱い、合意の構造は、他のモデルのスコアではなく、検証信号である。 3つのパネル統計値から平均絶対誤差0.03$までのコンセンサス精度を予測する。
  論文  参考訳（メタデータ） (2026-07-11T05:57:54Z)
• FineVerify: Scaling Test-Time Compute with Fine-Grained Self-Verification for Agentic Search [88.16262636915975]
  FineVerifyはエージェント検索のためのきめ細かい自己検証フレームワークである。 各質問をチェック可能なサブクエストに分解し、サンプル候補を検証し、最も高い集計スコアの候補を選択する。 FineVerifyは、標準のスケーリングベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-05-30T10:21:20Z)
• Self-Calibrating Language Models via Test-Time Discriminative Distillation [18.46710400838861]
  大規模言語モデル(LLM)は、しばしば間違って答える質問に対して体系的に過度に信頼されている。 我々は、テスト時間トレーニング(TTT)パイプラインである$textbfSECL$ ($textbfSE$lf-$textbfC$alibrating $textbfL$anguage Modelsを紹介します。
  論文  参考訳（メタデータ） (2026-03-18T13:28:50Z)
• Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
  我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。 Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。 この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
  論文  参考訳（メタデータ） (2025-10-07T14:46:12Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)
• Subtle Errors in Reasoning: Preference Learning via Error-injected Self-editing [59.405145971637204]
  eRror-Injected Self-Editing (RISE) と呼ばれる新しい好み学習フレームワークを提案する。 RISEは、事前定義された微妙なエラーをピボットトークンに注入する。 RISEの有効性を検証する実験では、Qwen2-7B-Instructでの優先学習により、GSM8Kでは3.0%、MATHでは7.9%が顕著に改善され、トレーニングサンプルは4.5Kに留まった。
  論文  参考訳（メタデータ） (2024-10-09T07:43:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。