論文の概要: Information-Gain Rewards over Diversity-Pruned Tests: GT-Anchored Verifier Co-Training for Reliable Code Generation
- arxiv url: http://arxiv.org/abs/2609.21208v1
- Date: Fri, 18 Sep 2026 01:46:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.820052
- Title: Information-Gain Rewards over Diversity-Pruned Tests: GT-Anchored Verifier Co-Training for Reliable Code Generation
- Title(参考訳): 多様性追従テストに対する情報ゲイン・リワード:信頼コード生成のためのGT- Anchored Verifier Co-Training
- Abstract要約: CoVerはQwen2.5-Instructバックボーン上で1ショットパス@1を7Bで+5.8ポイント、14Bで+7.1ポイント上げる。
3段階の多様性認識選択ステップは、候補プールを行動的に非冗長スイートにプルークする。
CodeTランキングパイプライン内のドロップインバックボーンとして、CoVer-7Bは+3.5ポイントを追加し、生成と選択の両方でコトレーニングの2つのメリットを示している。
- 参考スコア(独自算出の注目度): 3.446250207083329
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-play methods that co-train a single language model as both coder and test author promise to move code-generation RL beyond fixed test suites, but they suffer from two coupled pathologies: permissiveness collapse, where pass-rate rewards are maximised by trivial, non-discriminative tests, and concentration bias, where i.i.d. sampled tests cluster on modal inputs and inflate estimator variance. We introduce CoVer (Co-trained Coder and Verifier), a single-policy GRPO framework that addresses both failure modes. First, an information-gain (IG) reward scores each self-generated test by the mutual information between its pass/fail vector and a graded, ground-truth-anchored correctness signal y [0, 1] m, gated by the sign of their covariance so that only positively discriminative tests receive reward. Second, a three-stage diversity-aware selection step prunes a candidate pool to a behaviourally non-redundant suite (invalidity, input-string, execution-profile filtering), raising the effective sample size of the IG estimator at fixed execution budget. On five benchmarks (LiveBench, MBPP, LiveCodeBench, CodeContests, Code-Forces), CoVer raises one-shot pass@1 by +5.8 points at 7B and +7.1 points at 14B over the Qwen2.5-Instruct backbone, and achieves the highest macro-average among all compared methods at both scales. As a drop-in backbone inside the CodeT ranking pipeline, CoVer-7B adds +3.5 points, demonstrating the dual benefit of co-training for both generation and selection.
- Abstract(参考訳): コーダとテスト著者の双方が、コード生成RLを固定されたテストスイートを超えて移動することを約束するセルフプレイ手法は、許容度崩壊(permissiveness collapse)、パスレート報酬の最大化(pass-rate rewards)、自明な非識別テスト(non-discriminative test)、集中バイアス(incent bias)、すなわち、サンプルテストのクラスタをモーダル入力とインフレート推定器のばらつき(inflate estimator variance)の2つに関連している。
CoVer(Co-trained Coder and Verifier)は、単一政治のGRPOフレームワークで、両方の障害モードに対処する。
第一に、情報ゲイン(IG)報酬は、そのパス/フェイルベクトルと、その共分散の符号によりゲートされた、グルーツ/アンコールされた補正信号y[0,1]mとの相互情報により、各自己生成テストのスコアをスコアし、正の判別テストのみが報酬を受けるようにする。
第2に、3段階のダイバーシティ対応選択ステップは、候補プールを非冗長スイート(無効性、入力ストリング、実行顕著なフィルタリング)にプルークし、一定の実行予算でIG推定器の有効サンプルサイズを上げる。
5つのベンチマーク(LiveBench、MBPP、LiveCodeBench、CodeContests、Code-Forces)では、CoVerはQwen2.5-Instructのバックボーン上で7Bで+5.8ポイント、14Bで+7.1ポイントのワンショットパス@1を上昇させ、両方のスケールで比較したメソッドの中で最高のマクロ平均を達成する。
CodeTランキングパイプライン内のドロップインバックボーンとして、CoVer-7Bは+3.5ポイントを追加し、生成と選択の両方でコトレーニングの2つのメリットを示している。
関連論文リスト
- When Uncertainty Isn't Enough: An Empirical Study of Self-Correction in Code Generation [3.657882835504143]
本研究では、自然言語からコード生成への変換のために開発された不確実性推定手法と、選択的な自己補正によるコード生成を改善できるかどうかを検討する。
我々は,平均トークンエントロピー,言語的信頼度,$P(textTrue)$,エントロピーアンサンブル,意味エントロピープローブの5つの不確実性を評価した。
マルチサンプル$P(textTrue)$は正しさと最も強い相関を達成でき、セマンティックエントロピープローブを含む他のすべての手法は弱い相関しか得られない。
論文 参考訳(メタデータ) (2026-07-31T21:13:02Z) - Oracle Gap and Signal Fidelity: A Fixed-Pool Diagnostic for Test-Time Collaboration [8.515185888009833]
テストタイムのコラボレーションはLLM推論の改善と評価されることが多いが、その利益は不均一であり、時にはネガティブである。
固定候補プールに対しては、セレクタまたは検証器のネットゲインを測定可能な要素に分解する。
このことは、マルチエージェントトポロジーの本質的な性質としてではなく、候補選択問題として協調を再構築する。
論文 参考訳(メタデータ) (2026-07-20T04:09:19Z) - Gate AI: LLM Security Benchmark Evaluation Methodology and Results [0.0]
本稿では,データセットごとのしきい値調整と未開示動作点に対処する評価ハーネスについて述べる。
評価中の検出器は5倍のクロスバリデーションを用いて16の公開ベンチマークで評価される。
外部比較において、検出器の閾値は、競合が公表した偽陽性率に再調整される。
論文 参考訳(メタデータ) (2026-06-01T23:29:58Z) - ZeroCoder: Can LLMs Improve Code Generation Without Ground-Truth Supervision? [13.984583399745157]
RLVR(Reinforcement Learning with Verifiable Rewards)は、実行ベースのフィードバックを通じて改善する強力なパラダイムである。
既存の作業では、自己生成テストを使って報酬を土台にしようとしたが、差別的テストの欠如は、テスト生成に対するモデルの準最適性能による影響を制限した。
我々はZeroCoderについて紹介する。ZeroCoderは、自己生成されたコード-テストインタラクションから実行フィードバックを使用して、CoderとTesterを共同でトレーニングする完全なラベルなしの共進化フレームワークである。
論文 参考訳(メタデータ) (2026-04-09T06:24:54Z) - Code-A1: Adversarial Evolving of Code LLM and Test LLM via Reinforcement Learning [54.95476453942411]
コード生成のための強化学習は、単体テストのパスレートから検証可能な報酬に依存する。
最近のセルフプレイ手法は、1つのモデルでコードとテスト生成を統合する。
Code-A1は、人間のアノテーションによるテストでトレーニングされたコード生成のパフォーマンスマッチングまたはモデルを超えることを実現する。
論文 参考訳(メタデータ) (2026-03-16T17:58:13Z) - $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
$V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。
V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。
V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
論文 参考訳(メタデータ) (2026-03-04T17:22:16Z) - Scaling Agentic Verifier for Competitive Coding [66.11758166379092]
大規模言語モデル(LLM)は強力なコーディング能力を示しているが、1回の試行で競合するプログラミング問題を正しく解くのに苦戦している。
実行ベースの再ランク付けは、有望なテスト時間スケーリング戦略を提供するが、既存のメソッドは、難しいテストケースの生成または非効率的なランダム入力サンプリングによって制約される。
本稿では,プログラムの動作を積極的に推論し,高い差別性のあるテスト入力を検索するエージェント検証手法を提案する。
論文 参考訳(メタデータ) (2026-02-04T06:30:40Z) - CVeDRL: An Efficient Code Verifier via Difficulty-aware Reinforcement Learning [57.24524263804788]
コード検証は、LLMベースのコード生成の検証後において重要な役割を果たす。
既存の教師付き微調整手法は、データの不足、高い失敗率、推論効率の低下に悩まされている。
機能的な報酬しか持たない単純RLは、難しいブランチやサンプルに対して効果的な単体テストを生成することができないことを示す。
論文 参考訳(メタデータ) (2026-01-30T10:33:29Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - Auto-Encoding Goodness of Fit [9.560668678348579]
We developed a new type of generative autoencoder called the Goodness-of-Fit Autoencoder (GoFAE)。
ミニバッチレベルでは、正規化の目的としてGoFテスト統計を使用する。
よりグローバルなレベルでは、より高い批判に基づいて正規化係数を選択する。
論文 参考訳(メタデータ) (2022-10-12T19:21:57Z) - Disentangle Your Dense Object Detector [82.22771433419727]
深層学習に基づく高密度物体検出器はここ数年で大きな成功を収め、ビデオ理解などのマルチメディアアプリケーションにも応用されてきた。
しかし、現在の高密度検出器の訓練パイプラインは、保持できない多くの接続に妥協されている。
そこで本研究では, 簡易かつ効果的な遠心分離機構を設計し, 現在の最先端検出器に統合するDED(Disentangled Dense Object Detector)を提案する。
論文 参考訳(メタデータ) (2021-07-07T00:52:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。