論文の概要: Verifier-Guided Self-Consistency: Test-Time Reasoning with Imperfect Generators and Verifiers
- arxiv url: http://arxiv.org/abs/2611.06606v1
- Date: Wed, 04 Nov 2026 14:57:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.143234
- Title: Verifier-Guided Self-Consistency: Test-Time Reasoning with Imperfect Generators and Verifiers
- Title(参考訳): 検証器誘導型自己整合性:不完全発生器と検証器によるテスト時間推論
- Abstract要約: 大規模言語モデルは、多くの多段階推論問題を解くことができるが、その推論は脆弱である。
検証器の重み付け投票は、ジェネレータからサンプリングされた軌跡に依存しており、正しいものへのステアジェネレーションはできない。
本稿では,ステップレベルの正しさと将来予測を組み合わせた復号化フレームワークであるVerifier-Guided Self-Consistency (VGSC)を提案する。
- 参考スコア(独自算出の注目度): 52.37497193871553
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models can solve many multi-step reasoning problems, but their reasoning remains brittle: plausible intermediate steps often lead to incorrect answers. Improving reasoning at test time requires balancing two imperfect signals: the generator, which provides diversity, and the verifier, which guides correctness. Existing approaches largely favor one side of this tradeoff. Verifier-weighted voting relies on trajectories sampled from the generator and cannot steer generation toward correct ones. By contrast, beam-style verifier-guided search can steer generation, but may over-concentrate on narrow trajectory sets and amplify verifier errors. We propose Verifier-Guided Self-Consistency (VGSC), a stochastic decoding framework that combines step-level correctness and future-outcome estimates to guide reasoning during generation. VGSC repeatedly proposes candidate next steps from the base language model and uses both signals in an acceptance/resampling procedure, while maintaining multiple trajectories for final answer-level self-consistency. We provide a probabilistic interpretation of VGSC as approximate sampling from a verifier-tilted trajectory distribution. Across multiple reasoning benchmarks, generator models, and verifier families, VGSC achieves higher average accuracy than representative baselines.
- Abstract(参考訳): 大規模言語モデルは、多くの多段階推論問題を解くことができるが、その推論は不安定なままである。
テスト時の推論を改善するには、多様性を提供するジェネレータと、正確性を導く検証器の2つの不完全な信号のバランスが必要である。
既存のアプローチは、このトレードオフの一方を好んでいる。
検証された重み付け投票は、ジェネレータからサンプリングされた軌跡に依存しており、正しいものへの操舵はできない。
対照的に、ビーム式検証器誘導探索は、生成を制御できるが、狭い軌跡集合に過度に集中し、検証器の誤りを増幅することができる。
本稿では,ステップレベルの正しさと将来のアウトカム推定を組み合わせた確率的復号化フレームワークであるVerifier-Guided Self-Consistency (VGSC)を提案する。
VGSCは、基本言語モデルからの次のステップを何度も提案し、最終的な回答レベルの自己整合性のために複数のトラジェクトリを維持しながら、受け入れ/再サンプリング手順で両方の信号を使用する。
本稿では,VGSCの確率論的解釈を検証器型軌道分布から近似的なサンプリングとして提供する。
複数の推論ベンチマーク、ジェネレータモデル、検証ファミリにわたって、VGSCは代表ベースラインよりも高い平均精度を達成する。
関連論文リスト
- Iterating Consistency Models: Stability, Error Bounds and Noise Schedules [26.948978911276498]
ステップを追加することで、スケジュールに非常に敏感な方法でサンプルの品質を改善したり、劣化させることができます。
我々は,多段階CMサンプリングをノイズ発生および近似分解演算子の構成として分析する。
我々は、与えられた訓練されたモデルに対して、一段階の精度と安定性の仮定を推定できる補完的な保証を確立する。
論文 参考訳(メタデータ) (2026-10-02T15:00:49Z) - Trust but Verify: Prover-Verifier Deliberation for Selective LLM Prediction [4.273094752480624]
本稿では,対話的証明理論に基づく推論時間プロトコルであるPVDを導入する。
PVDは回答と構造化された信頼判定の両方を生成し、システムは不確実なケースを棄却しながら高信頼の回答を報告できる。
論文 参考訳(メタデータ) (2026-05-24T15:23:27Z) - Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。
我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。
VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
論文 参考訳(メタデータ) (2026-04-03T15:19:46Z) - LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。
我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。
本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
論文 参考訳(メタデータ) (2025-12-01T11:27:09Z) - Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。
Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。
この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
論文 参考訳(メタデータ) (2025-10-07T14:46:12Z) - Derailer-Rerailer: Adaptive Verification for Efficient and Reliable Language Model Reasoning [11.765298236504155]
Derailer-Rerailerは推論精度と計算効率のバランスをとる新しいフレームワークである。
提案手法は,従来の検証手法に比べて2~3倍の効率を維持しつつ,大幅な精度向上(8~11%)を実現している。
論文 参考訳(メタデータ) (2024-08-25T21:20:17Z) - GRACE: Discriminator-Guided Chain-of-Thought Reasoning [75.35436025709049]
本稿では, 正しい推論手順を導出するために, GRACE (CorrectnEss Discriminator) を用いたチェーン・オブ・シークレット・リAsoningを提案する。
GRACEは、正しいステップと間違ったステップに対して対照的な損失で訓練された判別器を採用しており、復号時に次のステップ候補を採点するために使用される。
論文 参考訳(メタデータ) (2023-05-24T09:16:51Z) - Unsupervised Controllable Generation with Self-Training [90.04287577605723]
GANによる制御可能な世代は依然として困難な研究課題である。
本稿では,自己学習を通じてジェネレータを制御する潜伏符号の分布を学習するための教師なしフレームワークを提案する。
我々のフレームワークは、変分オートエンコーダのような他の変種と比較して、より良い絡み合いを示す。
論文 参考訳(メタデータ) (2020-07-17T21:50:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。