論文の概要: Interpretable Adaptive Sampling for LLM Test-Time Scaling

• arxiv url: http://arxiv.org/abs/2608.03961v1
• Date: Tue, 04 Aug 2026 17:27:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 17:47:10.516167
• Title: Interpretable Adaptive Sampling for LLM Test-Time Scaling
• Title（参考訳）: LLMテストタイムスケーリングのための解釈可能な適応サンプリング
• Abstract要約: 本稿では,解釈可能な信号,推定急激な複雑度やモデルの信頼性を,クエリごとのサンプリング予算にマッピングする軽量ファジィコントローラを提案する。 コントローラは、より簡単またはより確実なプロンプトに、より少ないサンプルを割り当て、より困難または少ない特定のプロンプトに、より多くのサンプルを割り当てる。
• 参考スコア（独自算出の注目度）: 8.794670104526867
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Test-time scaling improves LLM reasoning by generating and aggregating multiple candidate answers, yet many pipelines use fixed per-query budgets that spend the same compute on easy and difficult prompts. These fixed budgets are also difficult to inspect because they do not explain why a given prompt receives a particular number of samples. We propose adaptive} test-time scaling with a lightweight fuzzy controller that maps interpretable signals, including estimated prompt complexity and model confidence, to a per-query sampling budget. The controller assigns fewer samples to easier or more confident prompts and more samples to harder or less certain prompts, making inference-time compute inspectable rather than fixed or opaque. We evaluate under a fair-alignment protocol with matched decoding settings and controlled answer selection, and compare against best-of-$N$, compute-aware scaling, and self-certainty-based baselines on question-answering and mathematical reasoning tasks. Across models and datasets, adaptive fuzzy control improves over several standard baselines and remains close to a selector-matched full-budget control while reducing the average number of samples. These findings suggest that interpretable adaptive sampling is a practical direction for more efficient test-time reasoning in large language models.
• Abstract（参考訳）: テストタイムスケーリングは、複数の候補回答の生成と集約によってLCM推論を改善するが、多くのパイプラインでは、同じ計算を簡単で困難なプロンプトに費やす固定されたクエリ単位の予算を使用している。 これらの固定予算は、与えられたプロンプトが特定の数のサンプルを受け取る理由を説明できないため、検査も困難である。 そこで本研究では,解釈可能な信号,推定急激な複雑度やモデルの信頼性を,クエリごとのサンプリング予算にマッピングする,軽量ファジィコントローラによるテスト時間スケーリングを提案する。 コントローラは、より簡単またはより確実なプロンプトに、より少ないサンプルを割り当て、より困難または少ない特定のプロンプトに、より多くのサンプルを割り当てる。 我々は,一致した復号設定と制御された解答選択を備えたフェアアライメントプロトコルで評価を行い,質問応答および数学的推論タスクにおけるベスト・オブ・N$,コンピューティング・アウェア・スケーリング,自己確実性に基づくベースラインと比較した。 モデルとデータセット全体にわたって、適応ファジィ制御はいくつかの標準ベースラインよりも改善され、平均サンプル数を減らしながらセレクタマッチングされたフル予算制御に近いままである。 これらの結果から,解釈可能な適応サンプリングは,大規模言語モデルにおいてより効率的なテスト時間推論のための実践的な方向であることが示唆された。

関連論文リスト

• REAR: Test-time Preference Realignment through Reward Decomposition [68.09214603569744]
  本稿では,タスクを階層化問題としてモデル化する新しいフレームワークを提案する。 これら2つの報酬項の比率を選択的に再スケールするREAR(Realignment Reward)を導出する。 我々は,REARをトークンレベルのポリシログ確率の線形結合として定式化することができ,様々なTSアルゴリズムと容易に統合できることを示す。
  論文  参考訳（メタデータ） (2026-06-29T14:17:53Z)
• Small RL Controller, Large Language Model: RL-Guided Adaptive Sampling for Test-Time Scaling [16.727861334696883]
  適応サンプリングをマルコフ決定過程(MDP)として定式化する。 我々は、回答の正しさ、レイテンシ、コストを両立させるために、強化学習(RL)を備えた軽量サンプリングコントローラを訓練する。 提案手法は,最終回答の統計にのみ依存する軽量で,CPU上でのトレーニングやデプロイが可能である。
  論文  参考訳（メタデータ） (2026-06-02T03:42:04Z)
• $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
  $V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。 V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。 V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
  論文  参考訳（メタデータ） (2026-03-04T17:22:16Z)
• Reinforce-Ada: An Adaptive Sampling Framework for Reinforce-Style LLM Training [47.26632817047513]
  大規模言語モデル(LLM)に推論タスクに適用された強化学習は、不安定な勾配推定によってボトルネックとなることが多い。 LLMのオンラインRLポストトレーニングのための適応型サンプリングフレームワークであるReinforce-Adaを提案する。 従来の2段階配置法とは異なり、Reinforce-Adaはオンライン連続除去プロセスにおける推定とサンプリングをインターリーブする。
  論文  参考訳（メタデータ） (2025-10-06T16:34:09Z)
• Learning to Ponder: Adaptive Reasoning in Latent Space [2.8835557003761747]
  我々は、潜時ステアリングによるインスタンス適応推論計算を割り当てる単一グラフのバックボーン学習自由フレームワークFR-Ponderを提案する。 GSM8KとMATH500では、FR-Ponderは計算精度のフロンティアを改善し、一致した精度で低いFLOPを提供し、早期出力ベースラインと比較する。
  論文  参考訳（メタデータ） (2025-09-29T03:21:42Z)
• CompassVerifier: A Unified and Robust Verifier for LLMs Evaluation and Outcome Reward [50.97588334916863]
  評価と結果報酬のための正確で堅牢な軽量検証モデルであるCompassVerifierを開発した。 数学、知識、多種多様な推論タスクにまたがる多分野の能力を示し、様々な答えの型を処理する能力を示す。 我々は,複数のデータソースから収集したモデル出力からなるVerifierBenchベンチマークを導入し,メタエラーパターンを手動で解析してCompassVerifierを強化する。
  論文  参考訳（メタデータ） (2025-08-05T17:55:24Z)
• Can Prompt Difficulty be Online Predicted for Accelerating RL Finetuning of Reasoning Models? [65.18157595903124]
  本研究では任意のプロンプトの反復的近似評価について検討する。 Model Predictive Prompt Selection (MoPPS)はベイズにおけるリスク予測フレームワークである。 MoPPSは迅速な困難を確実に予測し、ロールアウトを大幅に削減したトレーニングを加速する。
  論文  参考訳（メタデータ） (2025-07-07T03:20:52Z)
• Efficient MCMC Sampling with Expensive-to-Compute and Irregular Likelihoods [2.299872239734834]
  計算オーバーヘッドを低減するためにサブセット評価を利用するサンプリングアルゴリズムをいくつか検討する。 我々はTaylor拡張の代わりにデータ駆動プロキシを導入し、新しい低コスト対応コントローラを定義する。 適応型提案とデータ駆動型プロキシを併用した改良版"Importance with Nested Training Samples"(HINTS)は、固定された計算予算で最高のサンプリングエラーを得る。
  論文  参考訳（メタデータ） (2025-05-15T16:06:44Z)
• Let's Sample Step by Step: Adaptive-Consistency for Efficient Reasoning and Coding with LLMs [60.58434523646137]
  大規模言語モデル(LLM)からの出力の正確性を改善するための一般的なアプローチは、自己整合性である。 コスト効率のよいモデルに依存しない手法であるAdaptive-Consistencyを導入し,各質問のサンプル数を動的に調整する。 実験の結果,Adaptive-Consistencyはサンプル予算を最大7.9倍に削減し,平均精度は0.1%以下であった。
  論文  参考訳（メタデータ） (2023-05-19T17:49:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。