論文の概要: Compare to Correct: Pairwise-Guided Logit Adjustment for LLM Test-Time Scaling
- arxiv url: http://arxiv.org/abs/2610.18583v1
- Date: Tue, 13 Oct 2026 15:46:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.660854
- Title: Compare to Correct: Pairwise-Guided Logit Adjustment for LLM Test-Time Scaling
- Title(参考訳): LLMテストタイムスケーリングにおけるPairwise-Guided Logit Adjustmentの比較
- Abstract要約: 回答レベル比較の利点を捉えるために,異なる回答をサポートする経路間の相互信頼度比較を導入する。
提案したPairwise-Guided Logit Adjustment (PGLA) フレームワークは,より弱い投票支援と投票ベースのランキングエラーの補正を可能にする。
- 参考スコア(独自算出の注目度): 86.37409257444484
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling-based test-time scaling enhances LLM reasoning by aggregating multiple reasoning paths for the same query. Existing methods use answer frequencies or path confidence to compute candidate scores, which do not explicitly characterize comparisons between competing answers. Inspired by the Condorcet principle in social choice theory, we introduce pairwise confidence comparisons between paths supporting different answers to capture answer-level comparative advantage. We combine this comparative evidence with voting support through a KL-regularized objective. Theoretically, we show that this comparative-advantage is equivalent to the adjustment to the traditional voting logits. In this way, our proposed Pairwise-Guided Logit Adjustment (PGLA) framework allows comparative evidence to compensate for weaker voting support and correct voting-based ranking errors. Experiments on 10 challenging benchmarks including mathematical reasoning, knowledge reasoning, and code generation with 7 models ranging from 1.7B to 32B parameters speak to the effectiveness of this plug-and-play term. Additional evaluations with external reward scores and online sampling further demonstrate its applicability.
- Abstract(参考訳): サンプリングベースのテストタイムスケーリングは、同じクエリに対して複数の推論パスを集約することで、LLM推論を強化する。
既存の手法では、答えの周波数や経路の信頼度を用いて候補スコアを計算するが、競合する答えの比較を明示的に特徴づけるものではない。
社会的選択論におけるCondorcetの原理に触発され、異なる回答を支持する経路間の相互信頼比較を導入し、回答レベルの利点を捉える。
我々は、この比較証拠とKL正規化目的による投票支援を組み合わせる。
理論的には、この比較アドバンテージは従来の投票ロジットの調整と等価であることを示す。
このようにして、提案したPairwise-Guided Logit Adjustment (PGLA) フレームワークは、より弱い投票支援と正しい投票ベースのランキングエラーを補うことができる。
数学的推論、知識推論、コード生成を含む10の挑戦的なベンチマークの実験では、1.7Bから32Bのパラメータを含む7つのモデルが、このプラグ・アンド・プレイ項の有効性に言及している。
外部報酬スコアとオンラインサンプリングによる追加評価は、その適用性をさらに示している。
関連論文リスト
- Prompt Perturbation for Reliable LLM Evaluation over Comparison Graphs [10.095945693317079]
大きな言語モデル(LLM)を評価することは、その能力を理解し、競合するシステムを比較し、実際に信頼できるモデルのデプロイをサポートするために重要である。
オープンエンドタスクでは、同じプロンプトに対する2つの応答を比較し、その結果の判断を総合的なランキングに集約する、ペアワイズ評価が一般的なパラダイムとなっている。
このパラダイムの中心的な課題は、非推移性(intransitivity)である。
論文 参考訳(メタデータ) (2026-06-16T07:44:45Z) - SafetyRepro: Configuration-Conditional Rank Instability on Alignment Benchmarks [0.30586855806896046]
有限エンベロープ命題は、厳密な順序付けが構成対逆転を許容するか否かを計測可能なペアワイズ判定率に結びつける。
テストするすべてのベンチマークにおいて、設定の選択だけでペアワイズな判断を覆すことができます。
論文 参考訳(メタデータ) (2026-05-25T06:54:44Z) - OpenDeepThink: Parallel Reasoning via Bradley-Terry Aggregation [53.88666485159289]
OpenDeepThinkは、集団ベースのテスト時間計算フレームワークで、ペアワイズBradley-Terryの比較によって選択する。
OpenDeepThinkはGemini 3.1 ProのCodeforces Eloを8回のLCMコールラウンドで+405ポイント引き上げる。
CF-73は、国際グランドマスターアノテーションによる73の専門家評価コードフォース問題と、公式判決に対する99%の地域評価合意のキュレートされたセットである。
論文 参考訳(メタデータ) (2026-05-14T17:57:40Z) - A Single Revision Step Improves Token-Efficient LLM Reasoning [3.344806691289323]
大規模言語モデルのためのトレーニングフリーで推論のみのフレームワークであるPacket-Conditioned Revision (PACER)を紹介した。
PACERは、推論トレースを使用して、構造化された調整ステップを通じて結論を修正できる。
競争力のある数学のベンチマークでは、PACERは256サンプルの多数決の正確さと一致または超える。
論文 参考訳(メタデータ) (2026-02-02T21:28:42Z) - Dependence-Aware Label Aggregation for LLM-as-a-Judge via Ising Models [55.94503936470247]
大規模なAI評価は、審査員を含む、$K$アノテータからのバイナリ判断を集約することにますます依存している。
ほとんどの古典的なメソッドは、アノテータが条件的に独立であると仮定するが、真のラベルは$Yin0,1$であり、この仮定は LLM の審査員によってしばしば違反される。
我々はIsingグラフィカルモデルと潜在因子に基づく依存認識モデルの階層構造を通してラベルアグリゲーションを研究する。
論文 参考訳(メタデータ) (2026-01-29T21:26:50Z) - Beyond Majority Voting: Towards Fine-grained and More Reliable Reward Signal for Test-Time Reinforcement Learning [12.354777054071379]
テスト時間強化学習は、多数決結果を擬似ラベルとして使用することにより、注釈付きデータへの依存を軽減する。
この投票戦略は、しばしば確認バイアスを引き起こし、スパース報酬に悩まされ、全体的なパフォーマンスが制限される。
これらの問題に対処するために,サブグループ固有のステップワイド信頼度重み付き擬似ラベル推定(SCOPE)を提案する。
論文 参考訳(メタデータ) (2025-12-17T07:21:54Z) - Reference-Free Rating of LLM Responses via Latent Information [53.463883683503106]
本研究では,判断モデルに対して,自由テキスト応答にQuattスケールのスコアを割り当てるよう依頼する一般的な実践について検討する。
次に、内部モデル信号からスカラー評価を導出する潜在裁判官を提案し、評価する。
ペアとシングルレーティングのベンチマークの幅広いスイートの中で、潜在メソッドは標準のプロンプトにマッチするか、超えている。
論文 参考訳(メタデータ) (2025-09-29T12:15:52Z) - Threading the Needle: Reweaving Chain-of-Thought Reasoning to Explain Human Label Variation [60.18907916989796]
大規模言語モデル(LLM)は最終答を出す前に思考の連鎖(CoT)を生成する。
本稿では,各回答オプションに対するサポート文と反対文を抽出するために,言語的に接頭した談話セグメンタを付加した新しいパイプラインを提案する。
また、正確なスコアよりも回答のランクを優先するランクベースHLV評価フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-29T11:47:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。