論文の概要: Mitigating Legibility Tax with Decoupled Prover-Verifier Games
- arxiv url: http://arxiv.org/abs/2602.23248v1
- Date: Thu, 26 Feb 2026 17:25:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-27 18:41:22.812967
- Title: Mitigating Legibility Tax with Decoupled Prover-Verifier Games
- Title（参考訳）: デカップリングされたプロバー検証ゲームによる合法税の緩和
- Authors: Yegon Kim, Juho Lee,
- Abstract要約: 検査可能性条件から正しさを分離した解を提案する。
我々は、平衡が忠実でチェック可能な翻訳者に対応する分離された証明検証ゲームを定式化する。
- 参考スコア（独自算出の注目度）: 14.915295611754132
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As large language models become increasingly capable, it is critical that their outputs can be easily checked by less capable systems. Prover-verifier games can be used to improve checkability of model outputs, but display a degradation in accuracy compared to a baseline trained only to maximize correctness -- a phenonemon named legibility tax. We propose a solution by decoupling the correctness from the checkability condition and instead training a "translator" model that turns a fixed solver model's solution into a checkable form. This allows us to first train the solver to maximize correctness, and then train the translator to translate the solver into a checkable form while retaining the solver's answer. To accommodate this new objective of translation, we formulate a decoupled prover-verifier game where the equilibria correspond to faithful and checkable translators.
- Abstract（参考訳）: 大規模言語モデルがますます有能になるにつれて、その出力がより能力の低いシステムで容易にチェックできることが重要である。
Prover-verifierゲームは、モデル出力のチェック可能性を改善するために使用できるが、正しさを最大化するためにトレーニングされたベースラインよりも精度が低下している。
そこで本研究では,正当性をチェック可能性条件から切り離して,固定解法モデルの解をチェック可能な形式に変換する「トランスレータ」モデルを訓練する手法を提案する。
これにより、まずソルバをトレーニングして正当性を最大化し、次にトランスレータをトレーニングして、ソルバの回答を保持しながら、ソルバをチェック可能な形式に変換することができる。
この新たな翻訳目的に対応するために、平衡が忠実でチェック可能な翻訳者に対応する分離された証明検証ゲームを定式化する。
関連論文リスト
- Propose, Solve, Verify: Self-Play Through Formal Verification [75.44204610186587]
形式的検証が信頼性の高い正当性信号を提供する検証コード生成設定における自己再生について検討する。
本稿では,PSV(Propose, Solve, Verify)という,難易度の高い合成問題を生成可能なプロジェクタと,専門家の反復によって訓練された解決器を作成するための,形式的検証信号を用いた簡単なセルフプレイフレームワークを紹介する。
そこで本研究では,生成した質問数とトレーニングの繰り返し数によるパフォーマンスの尺度を示し,形式的検証と難易度を考慮した提案を,自己再生を成功させる上で不可欠な要素として同定する。
論文 参考訳（メタデータ） (2025-12-20T00:56:35Z) - Probing for Arithmetic Errors in Language Models [86.8227317662622]
言語モデルの内部アクティベーションは、算術誤差を検出するために使用できる。
単純なプローブはモデルが予測した出力と正解の両方を隠蔽状態から正確に復号できることを示す。
モデル精度を90%以上の精度で予測する軽量エラー検出器を訓練する。
論文 参考訳（メタデータ） (2025-07-16T16:27:50Z) - Latent Veracity Inference for Identifying Errors in Stepwise Reasoning [78.29317733206643]
本稿では、精度割当てに対する離散探索アルゴリズムであるVeracity Search(VS)を紹介する。
その他の方法では、後続の精度値よりも後続の分布において難解な推論を行う。
VSを一般化し、新しいコンテキストで正確なゼロショットの精度推論を可能にする。
論文 参考訳（メタデータ） (2025-05-17T04:16:36Z) - Prover-Verifier Games improve legibility of LLM outputs [12.532113917099885]
小学校数学の問題を解く上での妥当性について検討する。
本稿では,Anil et al の Prover-Verifier Game にヒントを得たトレーニングアルゴリズムを提案する。
本研究は,解の正当性を検証することを目的とした,時間制約のある人間への正当性訓練の伝達を示す。
論文 参考訳（メタデータ） (2024-07-18T16:58:18Z) - Small Language Models Need Strong Verifiers to Self-Correct Reasoning [69.94251699982388]
大規模言語モデル(LLM)の推論性能を高めるための有望なソリューションとして自己補正が登場した。
この研究は、小さい(=13B)言語モデル(LM)が、より強いLMから最小の入力で推論タスクを自己補正できるかどうかを考察する。
論文 参考訳（メタデータ） (2024-04-26T03:41:28Z) - Learning to Check: Unleashing Potentials for Self-Correction in Large Language Models [5.463333911506443]
我々は,タスクチェックのためのトレーニングデータを構築することで,大規模言語モデル(LLM)の自己チェック能力を向上させることを目指している。
ステップCoTチェック(Step CoT Check)と呼ばれる特殊なチェックフォーマットを提案する。
実験により、"Step CoT Check"フォーマットによる微調整により、LCMの自己チェックと自己補正能力が大幅に向上することが示された。
論文 参考訳（メタデータ） (2024-02-20T14:23:23Z) - GRACE: Discriminator-Guided Chain-of-Thought Reasoning [75.35436025709049]
本稿では, 正しい推論手順を導出するために, GRACE (CorrectnEss Discriminator) を用いたチェーン・オブ・シークレット・リAsoningを提案する。
GRACEは、正しいステップと間違ったステップに対して対照的な損失で訓練された判別器を採用しており、復号時に次のステップ候補を採点するために使用される。
論文 参考訳（メタデータ） (2023-05-24T09:16:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。