論文の概要: Audit-First VAPO: Risk-Certified Selective Updates under Imperfect Verification
- arxiv url: http://arxiv.org/abs/2609.33662v1
- Date: Sun, 27 Sep 2026 15:21:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 14:56:55.815182
- Title: Audit-First VAPO: Risk-Certified Selective Updates under Imperfect Verification
- Title(参考訳): Audit-First VAPO:不完全検証によるリスク認定選択更新
- Abstract要約: 不完全な検証者は、クリップングや正規化がその大きさを束縛している場合でも、有害な更新を割り当てることができる。
Audit-First VAPOを導入し、離散的な方向入力と連続的な等級制御を分離する。
- 参考スコア(独自算出の注目度): 23.835119696596095
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Imperfect verifiers can assign a harmful update direction even when clipping and regularization bound its magnitude. We introduce Audit-First VAPO, which separates discrete directional admission from continuous magnitude control. An observation-only accept-appeal-abstain policy uses a finite secondary-verification budget; its action trace is frozen before clean labels are joined. Simultaneous finite-sample bounds then certify selected harmful risk, coverage, and verifier-call rate over a predeclared policy family. Conditional Hoeffding-Azuma bounds account for the dependence induced by shared budgets, and rollout or verifier changes initiate a new certification stage. After admission, a bounded trust-clip-KL actuator controls magnitude. We evaluate two models on two reasoning benchmarks against static RLVR, matched-random selection, confidence thresholding, noise correction, and verifier augmentation. On Qwen3.5-0.8B and GSM8K at target risk $ρ=0.08$, RC-VAPO achieves 74.1% accuracy, selected harmful risk 0.0697, coverage 0.4125, and relative verifier cost $1.16\times$. At matched coverage and update magnitude, its selected-risk difference from matched random is -0.0260 with paired 95% interval $[-0.0364,-0.0157]$. Across asymmetric, confidence-dependent, and correlated-verifier noise, the certificate is satisfied on 57 of 60 independent runs. These comparisons isolate informative directional selection from proposal suppression, update shrinkage, and additional verifier computation.
- Abstract(参考訳): 不完全な検証者は、クリップングや正規化がその大きさを束縛している場合でも、有害な更新方向を割り当てることができる。
Audit-First VAPOを導入し、離散的な方向入力と連続的な等級制御を分離する。
観察のみのアクセプション-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-アプタ-は有限の二次検証予算を使用する。
同時に有限サンプル境界は、事前に宣言されたポリシーファミリ上で選択された有害なリスク、カバレッジ、検証者呼び出し率を認定する。
条件付きHoeffding-吾妻境界は、共有予算によって引き起こされる依存を考慮し、ロールアウトまたは検証の変更は、新しい認定段階を開始する。
入場後、有界信頼クリップ-KLアクチュエータが大きさを制御する。
静的RLVR, 一致ランダム選択, 信頼閾値, 雑音補正, 検証器拡張の2つのモデルについて検討した。
Qwen3.5-0.8B と GSM8K の目標値が ρ=0.08$ の場合、RC-VAPO は74.1% の精度、有害リスク 0.0697、カバー 0.4125、相対検証コスト $1.16\times$ を達成している。
一致したカバレッジと更新の規模では、一致したランダムと選択されたリスクの差は-0.0260で、95%間隔は$[-0.0364,-0.0157]$である。
非対称、信頼依存、相関検証ノイズ全体で、証明書は60の独立ランのうち57で満たされる。
これらの比較は、提案の抑制、更新の縮小、追加の検証処理から情報的指向性の選択を分離する。
関連論文リスト
- The Price of Peeking: Anytime-Valid Leakage Detection on ML-KEM EM Traces [45.88028371034407]
本研究は, ベットによる検査に基づく漏洩検出について検討する。
13000~20000のサンプルに対して繰り返し表示される$|t|>4.5$は2.7-12.9%の複製で誤報を発生させた。
論文 参考訳(メタデータ) (2026-09-27T14:14:10Z) - OSCC: Certified Observation-Safe Coupling Optimization for Gradient-Noise Control in Imperfect-Information Learning [23.835119696596095]
無効な結合は、隠された状態を隠蔽し、内因性ポリシーのランダム性を同期させ、または、偽の履歴が分岐した後の誤ったチャンスイベントを発生させる。
本稿では,限界保存,情報状態安全性,ブランチローカルなポリシーランダム性,セマンティックイベントアライメント,トレース・ビオークル・リプレイなどを通じて,許容可能なクラスを定義するフレームワークであるオブザーバセーフ・カウンタファクト・カップリング(O SCC)を紹介する。
我々は, 限界保存結合に対して, ポリシ・ヤコビアン重み付き対角外帰還共分散が雑音変化を決定することを示す勾配対応結合基準を導出する。
論文 参考訳(メタデータ) (2026-09-27T13:10:30Z) - Decoupled Learning and Selection in Slate Recommendation for Privacy and Stability Under Noisy Scores [0.0]
ランダムなスコア学習者としてスレートレコメンデーションを形式化し,次いで決定論的選択を行う。
エンドツーエンドのプライバシは、セレクタ入力がパブリックまたはインディペンデント、以前のプライベートアウトプット、あるいは別途プライバシアカウントされた場合にのみ保持される。
有界スコアによって誘導される目標運動は、最小の欲求決定マージンの半分以下であり、順序付きスレートが変化しないことを保証する。
論文 参考訳(メタデータ) (2026-09-24T12:09:24Z) - DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。
直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。
メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
論文 参考訳(メタデータ) (2026-09-23T03:06:01Z) - Available Guardrails: Certifying Selective Prediction across ML Systems [40.57629016626049]
安全, 粒度, サービストラフィックのトレードオフを明らかにする動的プログラムを開発する。
1つの計画上の候補分割を分割し、その中の1つを選択すると、このギャップの一部が回復することを示す。
相補的妥当性保存レバーは、報告ユニット間で家庭的にエラー予算を割り当て、追加のカバレッジを回復する。
論文 参考訳(メタデータ) (2026-09-18T17:36:52Z) - When Verifiers Vote Backwards under Verdict Substitution: Signed Pivotal Value in Correlated Self-Consistency [9.710464466895521]
1回の投票で決定されるクエリのみ 多数決を変更できる。
ラベル付き検証スタイルの介入を用いて,その変化の兆候について検討する。
論文 参考訳(メタデータ) (2026-08-08T05:02:34Z) - Cross-Fitted Residual Utility for Primary-Preserving Cognitive Decision Correction in Automatic Modulation Classification [1.547549252134621]
本稿では,クロスフィット型残効ユーティリティとプライマリ保存型認知決定ポリシーを用いて,推論後の問題について検討する。
構造化されたkan-Fourier分類器はデフォルトの確率を提供し、ニューラルおよび非ニューラル候補は観測可能な証拠を提供する。
RMLA、RMLB、HISARでは、完全なシステムは全体の精度を63.632%から66.332%、65.161%から66.168%、77.769%から79.867%に改善している。
論文 参考訳(メタデータ) (2026-08-03T11:07:37Z) - ALIVE: Warnings Before Exclusion in Budgeted Multi-Source Learning [18.17400877167872]
ルーティング決定は次のトランザクションで修正可能だが、遅延ソースの除外は後続の判断で継続される。
我々は,有限人口監査と学習が予算を共有している場合,不平等なパーシステンス行動を認める証拠を問う。
論文 参考訳(メタデータ) (2026-07-31T13:18:47Z) - SVR: Self-Verifying Refinement via Joint Verdict-Confidence Reinforcement Learning for Adaptive Test-Time Compute [62.3458279176813]
自己検証リファインメント(Self-Verifying Refinement)は、オラクルフリーのマルチターン強化学習フレームワークである。
自己検証を計算制御ポリシとして使用することを学ぶ。
マクロ平均精度は0.563で、平均で2.99回しか推測できない。
論文 参考訳(メタデータ) (2026-07-30T16:20:58Z) - LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。
我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。
本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
論文 参考訳(メタデータ) (2025-12-01T11:27:09Z) - SAFER: Risk-Constrained Sample-then-Filter in Large Language Models [38.97678256807034]
本稿では,無意識サンプリングと共形フィルタリングを組み合わせた2段階リスク制御フレームワークを提案する。
その結果,SAFERはタスク固有の基準やキャリブレーションテストのスプリット比と互換性があることが判明した。
論文 参考訳(メタデータ) (2025-10-11T12:12:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。