論文の概要: Early Signals, Strong Decisions: Prefix-Guided Sampling for Parallel Test-Time Scaling
- arxiv url: http://arxiv.org/abs/2611.14965v1
- Date: Wed, 11 Nov 2026 03:18:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.996451
- Title: Early Signals, Strong Decisions: Prefix-Guided Sampling for Parallel Test-Time Scaling
- Title(参考訳): 早期信号, 強判定: 並列テスト時間スケーリングのためのプリフィックスガイドサンプリング
- Abstract要約: 内部信頼スコアは、様々な品質のパスを特定することで、大きな言語モデルの推論を改善することができる。
低品質パスが評価される前に完全に拡張されるため、既存の手法は計算的に非効率のままである。
Prefix-Guided Sampling (PreG) は、まず短い接頭辞を生成し、それらを内部信頼スコアでランク付けし、次に最も有望な候補のみを完成させる手法である。
- 参考スコア(独自算出の注目度): 3.5465509531483637
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Parallel test-time scaling (TTS) has been shown to enhance reasoning in large language models by generating and aggregating multiple independent reasoning paths. Internal confidence scores can further improve this process by identifying paths of varying quality. However, existing methods remain computationally inefficient, as low-quality paths are fully expanded before being evaluated. In this work, we aim to improve the use of internal confidence signals for better model performance and computational efficiency. We begin by offering a new perspective on the role of confidence in aggregation, showing that it is most impactful for questions near the decision boundary. Notably, when amplified by multi-sample aggregation, even small confidence signals derived from short prefixes can meaningfully influence outcomes in these boundary cases. Building on this insight, we introduce Prefix-Guided Sampling (PreG), a method that reallocates computation by first generating short prefixes, ranking them using internal confidence scores, and then completing only the most promising candidates. This strategy reduces token usage while maintaining gains in path quality. We provide theoretical analysis demonstrating that, under a fixed compute budget, PreG strengthens the effective signal by widening the decision boundary margin. Empirically, our method consistently outperforms standard parallel TTS approaches across benchmarks, while significantly improving token efficiency and reducing overall computation.
- Abstract(参考訳): 並列テスト時間スケーリング(TTS)は、複数の独立した推論経路を生成して集約することにより、大規模言語モデルの推論を強化することが示されている。
内部信頼スコアは、様々な品質のパスを特定することによって、このプロセスをさらに改善することができる。
しかし、従来の手法は、評価される前に低品質パスが完全に拡張されるため、計算的に非効率なままである。
本研究は,モデル性能と計算効率を向上させるために,内部信頼信号の使用を改善することを目的としている。
まず、アグリゲーションにおける信頼の役割に関する新たな視点を提示し、決定境界付近の質問に最も影響があることを示します。
特に、マルチサンプルアグリゲーションによって増幅された場合、短いプレフィックスに由来する小さな信頼信号でさえ、これらの境界ケースにおける結果に有意に影響を及ぼす可能性がある。
この知見に基づいて,Prefix-Guided Smpling (PreG) を導入し,まず短い接頭辞を生成し,それらを内部信頼スコアを用いてランク付けし,次に最も有望な候補のみを完成させる手法を提案する。
この戦略は、パス品質の上昇を維持しながらトークンの使用を減らす。
本稿では, 計算予算の固定化により, 決定境界幅を広げることにより, 有効信号の強化を図った理論的解析を行う。
実験的に,本手法はベンチマーク間の標準並列TSアプローチを一貫して上回り,トークン効率を大幅に向上させ,全体的な計算量を削減する。
関連論文リスト
- Confidence-Aware Alignment Makes Reasoning LLMs More Reliable [65.44962502963378]
CASPOは、トークンレベルの信頼度とステップワイドな論理的正しさを、個別の報酬モデルをトレーニングせずに整合させるフレームワークである。
推論中、信頼を意識した思考(CaT)を提案し、不確実な推論枝を無視可能なO(V)レイテンシで動的に生成する。
10のベンチマークと複数のモデルファミリでの実験では、CASPOは推論の信頼性と推論効率を一貫して改善している。
論文 参考訳(メタデータ) (2026-05-08T07:08:25Z) - Think Twice Before You Write -- an Entropy-based Decoding Strategy to Enhance LLM Reasoning [32.332197731504046]
デコード戦略は、大きな言語モデルの推論能力を形成する上で、中心的な役割を果たす。
グレディ復号やビームサーチといった従来の手法は、しばしばエラーの伝播に悩まされる。
本稿では,トークンレベルの適応性を世代に導入するエントロピー誘導復号化フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-10T23:08:26Z) - Improving reasoning at inference time via uncertainty minimisation [1.9145422469692004]
本稿では,不確実性を最小化するための原則的戦略を提案する。
提案手法は,各推論ステップにおいて,モデルの自己確実性を最大化する継続を選択する。
初期段階に適用した自己確実性最大化は,性能向上のほとんどを説明することができることを示す。
論文 参考訳(メタデータ) (2026-03-07T11:39:06Z) - On the Limits of Test-Time Compute: Sequential Reward Filtering for Better Inference [71.09125259964684]
テスト時計算(TTC)は、大規模言語モデル(LLM)の拡張のパラダイムとして、ますます顕著になっている。
本稿では,高次世代のみを文脈に選択的に組み込む単純な手順である報酬フィルタシーケンシャル推論について検討する。
理論的には、報酬フィルタによる逐次推論は標準TTCパラダイムよりも厳密な保証が得られることを示す。
論文 参考訳(メタデータ) (2025-12-04T08:21:33Z) - Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。
フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。
算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
論文 参考訳(メタデータ) (2025-11-13T07:26:01Z) - Fractured Chain-of-Thought Reasoning [61.647243580650446]
完全CoTと解のみのサンプリングを補間する統合推論時間戦略であるフラクチャードサンプリングを導入する。
フラクチャードサンプリングは、Pass@kとトークンの予算に対して、急激なログ線形スケーリングゲインをもたらすため、優れた精度とコストのトレードオフを一貫して達成できることを示す。
論文 参考訳(メタデータ) (2025-05-19T11:30:41Z) - Path-Consistency with Prefix Enhancement for Efficient Inference in LLMs [3.6696973040141034]
path-consistencyは推論遅延を最大40.5%改善し、タスク間のタスク精度を維持している。
実験の結果,経路整合性は,タスク間のタスク精度を維持しつつ,最大40.5%の推論遅延を改善することが示された。
論文 参考訳(メタデータ) (2024-08-25T01:45:53Z) - BERT Loses Patience: Fast and Robust Inference with Early Exit [91.26199404912019]
本稿では,事前学習した言語モデルの効率性と堅牢性を向上させるためのプラグイン・アンド・プレイ手法として,Patience-based Early Exitを提案する。
提案手法では,モデルを少ないレイヤで予測できるため,推論効率が向上する。
論文 参考訳(メタデータ) (2020-06-07T13:38:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。