論文の概要: Online Verification of Language Model Responses Under Cost Constraints
- arxiv url: http://arxiv.org/abs/2610.02632v1
- Date: Fri, 02 Oct 2026 00:45:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.137975
- Title: Online Verification of Language Model Responses Under Cost Constraints
- Title（参考訳）: コスト制約下における言語モデル応答のオンライン検証
- Abstract要約: OMVV (Online Multi-Verifier Verification) はコストと検証性能の異なる$K$の弱い検証器のプールを維持するアルゴリズムである。
OMVVは、様々な運用予算において、どの固定検証器よりも低い検証コストで高い精度を達成する。
- 参考スコア（独自算出の注目度）: 25.495949162960624
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As large language models are increasingly deployed for multi-step reasoning, verifying the correctness of their outputs has become essential for maintaining reliability at scale. Verifying the correctness of large language model outputs is often done by querying a costly ground-truth oracle, which is impractical to invoke at every step in an online setting. Prior work addresses this by querying a single weak verifier on every step, and using its score to decide whether the costly strong verifier needs to be queried as well, reserving strong verification for only a small fraction of the steps. However, a single fixed weak verifier may not perform consistently well as the subject matter or difficulty of incoming queries changes over time, and committing to one in advance risks either overly costly or inaccurate verification. We introduce OMVV (Online Multi-Verifier Verification), an algorithm that maintains a pool of $K$ candidate weak verifiers with differing cost and verification performance, and adaptively routes each round's decision to a verifier selected via an online score combiner and an exponential-weights routing policy. OMVV provides a distribution-free, finite-time guarantee on false-accept and false-reject rates across the full pool of verifiers, and further achieves sublinear regret against the best fixed verifier in hindsight under a combined cost and consistency objective. Experiments on reasoning dataset benchmarks show that OMVV achieves higher accuracy at lower verification cost than any single fixed verifier, across a range of operating budgets.
- Abstract（参考訳）: 大規模言語モデルが多段階推論のためにますますデプロイされるにつれて、アウトプットの正確性を検証することは、大規模に信頼性を維持するために欠かせないものとなっている。
大規模な言語モデルのアウトプットの正しさを検証するには、オンライン設定のすべてのステップで実行できない、コストのかかる真実のオラクルを問い合わせることがよくあります。
以前の作業では、各ステップで単一の弱い検証器を問合せし、そのスコアを使用して、コストのかかる強力な検証器もクエリする必要があるかどうかを判断し、ステップのごく一部で強い検証を保っている。
しかし、1つの固定弱検証器は、時間とともに入ってくるクエリの主題や難しさが変化し、過度にコストがかかるか不正確な検証を行うため、一貫して機能しない。
OMVV (Online Multi-Verifier Verification) は,コストと検証性能の異なる$K$の弱い検証器のプールを維持し,オンラインスコアコンバータと指数重み付けルーティングポリシによって選択された検証器に各ラウンドの決定を適応的にルーティングするアルゴリズムである。
OMVVは、検証器の全プールにわたる偽受け入れと偽拒絶率の分布のない有限時間保証を提供し、さらにコストと整合性の組み合わせにより、後見の最良の固定検証器に対するサブ線形後悔を実現する。
推論データセットベンチマークの実験により、OMVVは様々な運用予算において、どの固定検証器よりも低い検証コストで高い精度を達成することが示された。
関連論文リスト
- BudgetVerify: Budget-Tiered Verification for Financial QA [2.0134842677651084]
BudgetVerifyは、財務的な質問に答えるための予算階層のジェネレータ検証フレームワークである。
それぞれの生成した回答を3つの検証レベルのうちの1つにルーティングする。
有効である場合にのみ、より強力な検証を選択的に割り当てることにより、固定された検証ポリシーよりも効率の良い精度コストフロンティアを生成する。
論文 参考訳（メタデータ） (2026-09-27T00:33:46Z) - Bayesian control for coding agents [63.64172141184361]
本稿では,コーディングエージェントのためのコスト依存型シーケンシャル仮説テストフレームワークを提案する。
ベイズ管制官は、正確性に対する信念を維持し、より多くの証拠を集め、候補者を精査し、検証し、停止するかを決定する。
本研究では, 信頼状態が, 不確実性定量化のためのトークン確率と生ツール・サクセスベースラインを上回り, 解釈可能な正当性スコアを得ることを示す。
論文 参考訳（メタデータ） (2026-06-23T11:41:32Z) - The Hidden Signal of Verifier Strictness: Controlling and Improving Step-Wise Verification via Selective Latent Steering [67.8271652641864]
我々は,隠蔽状態の介入によって検証の厳密性を制御できるかどうかを検討した。
VerifySteerは、サンプルレベルのルーティングに潜時補正信号を使用し、段落境界に選択的に介入する。
論文 参考訳（メタデータ） (2026-05-20T05:48:16Z) - CITE: Anytime-Valid Statistical Inference in LLM Self-Consistency [10.34950275095264]
本研究では,モデル応答分布の特異なモードとして,あらかじめ指定した対象解の任意の正当性検証について検討する。
本稿では,任意の所定のレベルで偽認証を確実に制御するCITEアルゴリズムを用いた区間統一試験による認証を提案する。
また、カテゴリセットなしの停止時間率を証明し、メインレジーム内の定数に一致するミニマックスの下限を確立し、信頼度の高い投票に拡張する。
論文 参考訳（メタデータ） (2026-05-07T08:41:51Z) - Justified or Just Convincing? Error Verifiability as a Dimension of LLM Quality [24.614192550852277]
モデル生成の正当化が、ユーザーが正しい回答を正しく区別するのに役立つかどうかに関して、標準的な手段は存在しない。
我々は、このアイデアを誤り検証可能性として形式化し、正当性によってレーダが解答正当性を正確に評価できるかどうかを測るバランスの取れた指標である$v_textbal$を提案する。
本稿では, 数学的推論のためのリフレクション・アンド・リフレーズ (RR) と, 事実QAのためのオラクル・リフレーズ (OR) の2つの手法を提案する。
論文 参考訳（メタデータ） (2026-04-06T04:53:59Z) - Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。
我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。
VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
論文 参考訳（メタデータ） (2026-04-03T15:19:46Z) - PRIME: A Process-Outcome Alignment Benchmark for Verifiable Reasoning in Mathematics and Engineering [71.15346406323827]
本稿では,プロセス・アウトカム・アライメント・アライメント・検証における検証結果を評価するベンチマークであるPRIMEを紹介する。
現在の検証器は、しばしば導出欠陥を検出するのに失敗する。
本稿では,PRIMEで選択した検証手法を利用したプロセス認識型RLVRトレーニングパラダイムを提案する。
論文 参考訳（メタデータ） (2026-02-12T04:45:01Z) - Adaptive Test-Time Compute Allocation via Learned Heuristics over Categorical Structure [1.8055130471307603]
テスト時間計算は、大規模言語モデル(LLM)推論の進歩の原動力となっている。
我々は,検証作業が中間状態にまたがってどのように配置されるべきか,検証コストに制限のある環境下での推論について検討する。
本研究では, (i) 構造化された移動インタフェース上での確定可能性ゲーティング, (ii) 学習された状態距離と残差スコアのハイブリッドを用いた事前検証ランキング, (iii) 局所的不確実性に基づく検証呼び出しの適応的アロケーションを組み合わせた状態レベルの選択的検証フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-03T19:57:53Z) - Towards Comprehensive Stage-wise Benchmarking of Large Language Models in Fact-Checking [64.97768177044355]
大規模言語モデル(LLM)は、現実のファクトチェックシステムにますます多くデプロイされている。
FactArenaは、完全に自動化されたアリーナスタイルの評価フレームワークである。
本研究では,静的クレーム検証精度とエンドツーエンドのファクトチェック能力の相違点を明らかにした。
論文 参考訳（メタデータ） (2026-01-06T02:51:56Z) - Latent Veracity Inference for Identifying Errors in Stepwise Reasoning [78.29317733206643]
本稿では、精度割当てに対する離散探索アルゴリズムであるVeracity Search(VS)を紹介する。
その他の方法では、後続の精度値よりも後続の分布において難解な推論を行う。
VSを一般化し、新しいコンテキストで正確なゼロショットの精度推論を可能にする。
論文 参考訳（メタデータ） (2025-05-17T04:16:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。