論文の概要: BOSS: Token-Budgeted Online Sampling and Selection for LLM Reasoning
- arxiv url: http://arxiv.org/abs/2610.26383v1
- Date: Mon, 19 Oct 2026 13:34:47 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:32:48.068229
- Title: BOSS: Token-Budgeted Online Sampling and Selection for LLM Reasoning
- Title(参考訳): BOSS:LLM推論のためのToken-Budgetedオンラインサンプリングと選択
- Abstract要約: テストタイムのスケーリングはLLM推論を改善することができるが、既存のアプローチは通常、所定のスケジュール後に生成や回答の選択を適用する。
In-instance assign: under a hard per-instance prompt-plus-completion token cap, when inference stop, generated another candidate, or spent residual tokens adjudicating candidate already observed?
BOSSは、24個のモデルタスク予算細胞のうち22個において、共通のハードキャップの下で最も精度が高い。
- 参考スコア(独自算出の注目度): 17.2243307672369
- License:
- Abstract: Test-time scaling can improve LLM reasoning, but existing approaches typically adapt generation or apply answer selection after a predetermined generation schedule. We study within-instance allocation: under a hard per-instance prompt-plus-completion token cap, when should inference stop, generate another candidate, or spend residual tokens adjudicating candidates already observed? BOSS is a training-free policy for this three-way decision, with worst-case budget checks before every generation and judge call. Its key contribution is online generation-adjudication allocation under one shared token ledger. Across two Llama-3.1 models and four reasoning benchmarks, BOSS attains the highest accuracy in 22 of 24 model-task-budget cells under the common hard cap. At Llama-3.1-8B and B=4k, it reaches 60.5 macro-average accuracy versus 58.6 for Adaptive-Consistency, 59.1 for TALE-EP, and 58.9 for fixed-schedule League. On identical Stage-I candidate pools, randomized A/B judging with repeated voting improves plurality from 58.4 to 60.3, with the full BOSS selector reaching 60.5. Approximately matched-cost controls further characterize how the benefit of adjudication changes with available inference budget. Together, these results establish generation-adjudication allocation as a distinct design axis for reasoning under strict per-instance caps.
- Abstract(参考訳): テストタイムスケーリングはLLM推論を改善することができるが、既存のアプローチは、通常、所定の生成スケジュールの後に生成に適応するか、回答の選択を適用する。
In-instance assign: under a hard per-instance prompt-plus-completion token cap, when inference stop, generated another candidate, or spent residual tokens adjudicating candidate already observed?
BOSSは、この3方向決定のためのトレーニング不要のポリシーであり、各世代と審査員の電話の前に最悪の予算チェックを行う。
その主要な貢献は、1つの共有トークン台帳の下でのオンライン世代調整割り当てである。
2つのLlama-3.1モデルと4つの推論ベンチマークで、BOSSは共通のハードキャップの下で24のモデル・タスク・バッジ・セルのうち22の精度を達成している。
Llama-3.1-8BとB=4kでは、アダプティブ・一貫性が58.6、TALE-EPが59.1、固定スケジュールリーグが58.9となる。
同じステージI候補プールでは、繰り返し投票によるランダム化されたA/Bが58.4から60.3に改善され、完全なBOSSセレクタが60.5に達した。
ほぼ一致したコスト制御は、利用可能な推論予算によって、偏見の利点がどのように変化するかをさらに特徴付ける。
これらの結果は、厳密なインスタンス単位の上限の下での推論のための設計軸として、世代適応割り当てを確立する。
関連論文リスト
- ProbePO: Sparse Probes, Redistributed Credit for Critic-Free LLM Reinforcement Learning [55.716259164434234]
検証可能な報酬からの強化学習は、個々の推論ステップが結果にどのように貢献するかを解明し、すべての推論軌道に1つの終末報酬を割り当てる。
GRPOは、すべてのレスポンストークンに対してグループ正規化された利点をブロードキャストする一方、よりきめ細かいアプローチは、ポリシー更新に使用されるデータを変更可能な、高密度な補助的なロールアウトや分岐スキームに依存することが多い。
限定的なロールアウト予算で、どの部分的なソリューションを評価すべきで、どのように価値を評価すればよいのか。
ProbePOは報酬のない不確実性スコアで部分解法状態を選択し、上限条件下で期待された検証者報酬を推定する
論文 参考訳(メタデータ) (2026-10-17T07:19:05Z) - VeriVLA: Adaptive Test-Time Verification for Flow-Based VLAs with Latent World Models [50.77784979595945]
トレーニング不要な2軸トリガを導入し,時間内変動とサンプル間のばらつきを測定した。
一度起動すると、JEPAベースの潜在世界モデルは、アクション条件付き将来の潜在状態を予測することによって、候補アクションチャンクをランク付けする。
提案手法は, 平均完了スコアを50.8%から65.5%に引き上げると同時に, トリガ決定毎のサンプリングと検証に326msを加算する。
論文 参考訳(メタデータ) (2026-10-15T14:34:44Z) - Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback [50.42640957891911]
言語モデルシステムは、類似性を比較することで、繰り返しテスト時の決定を行う。
しかし、類似性はユニークではない:語彙、意味、構造、類似性はNの選択点を取得することができる。
本稿では,現在の意思決定を統括するトレーニングフリーベイズ手法であるAxis Interactive Signalsを紹介する。
論文 参考訳(メタデータ) (2026-10-13T16:19:49Z) - How Much Can Language Models Gain from Test-Time Computation? [16.91705643450433]
SELF-POTは、競合数学、競合プログラミング、エージェント環境にわたるモデルのテスト時間ポテンシャルを測定する。
選択や批判を含むすべてのモデルコールをドルで課金する。
モデルが追加の推論から得られるゲインと、より強いモデルに対する追加の推論を伴う低コストモデルである。
論文 参考訳(メタデータ) (2026-10-01T05:49:29Z) - Governance Records as Supervision: Verifier-Selected Self-Training for Structured Workflow Repair [0.0]
マシン検証可能なガバナンスレコードは、タスク契約、モデル試行、検証者決定、承認された出力、ターゲットオリジンをリンクする。
これらのレコードが有界モデルを監督し、時々、または高価な機能を信頼できるワンショット実行に統合できるかどうかをテストする。
論文 参考訳(メタデータ) (2026-08-18T21:16:43Z) - Off-the-Shelf LLMs as Process Scorers: Training-Free Alternative to PRMs for Mathematical Reasoning [51.88950852117154]
Chunk-Level Guided Generationは、既製の大規模言語モデルをプロセススコアラとして使用する、トレーニング不要の代替手段である。
本研究では,系統的な長さバイアスのため,大モデル確率の可変長推論ステップが信頼できないことを示す。
Chunk-Level Guided Generation は PRM guided search よりもかなり短い推論トレースを生成する。
論文 参考訳(メタデータ) (2026-06-01T04:43:36Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳(メタデータ) (2026-05-15T17:08:27Z) - CAPS: Cascaded Adaptive Pairwise Selection for Efficient Parallel Reasoning [24.596125996494717]
CAPSは2つの軸に沿って不均一に検証器を割り当てる推論のみのフレームワークである。
CAPSは、コードに対する検証対象の予算の25.4%を使用しながら、20組中14組で先頭のペアワイズ検証器を上回っている。
論文 参考訳(メタデータ) (2026-05-15T01:16:12Z) - ZIP-RC: Optimizing Test-Time Compute via Zero-Overhead Joint Reward-Cost Prediction [57.799425838564]
ZIP-RCは、モデルに報酬とコストのゼロオーバーヘッド推論時間予測を持たせる適応推論手法である。
ZIP-RCは、同じまたはより低い平均コストで過半数投票よりも最大12%精度が向上する。
論文 参考訳(メタデータ) (2025-12-01T09:44:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。