論文の概要: ExecuCritic: Calibrated Critic Shaping for Code Generation with Verifiable Rewards
- arxiv url: http://arxiv.org/abs/2609.16604v1
- Date: Tue, 15 Sep 2026 03:58:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.334717
- Title: ExecuCritic: Calibrated Critic Shaping for Code Generation with Verifiable Rewards
- Title(参考訳): ExecuCritic: 検証可能なリワード付きコード生成のためのキャリブレーションされた批判的シェーピング
- Abstract要約: 実行フィードバックは、単体テストが客観的であり、プログラムの正確性を直接測定するため、コードモデルにとって有用な監視信号である。
コーダと評論家が同じ実行ロールアウトで更新される共同トレーニングフレームワークであるExecuCriticを提案する。
- 参考スコア(独自算出の注目度): 2.724374986592201
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Execution feedback is a useful supervision signal for code models because unit tests are objective and directly measure program correctness. Its weakness is that an entire program is often reduced to one pass or fail bit, leaving RLVR to solve a difficult credit assignment problem. At the same time, coding systems often include separate reviewer or tester roles, but these critics are usually prompted rather than trained and are not calibrated against execution. We propose ExecuCritic, a joint training framework in which a coder and a critic are updated on the same execution rollouts. The critic predicts pass or fail outcomes and gives short diagnostic feedback; the coder uses this signal only when the critic agrees with the executor on the current rollout group. Across eight code benchmarks and two recent open backbones, ExecuCritic improves over GRPO without a critic, prompted reviewer systems and scalar reward model baselines, while requiring fewer policy gradient steps and fewer sandbox executions. Ablations and reliability analyses suggest that the gains come from better credit assignment rather than larger sampling budgets.
- Abstract(参考訳): 実行フィードバックは、単体テストが客観的であり、プログラムの正確性を直接測定するため、コードモデルにとって有用な監視信号である。
その弱点は、プログラム全体を1パスまたはフェールビットに減らし、RLVRは困難なクレジット代入問題を解決する。
同時に、コーディングシステムは、しばしば別個のレビュアーまたはテスターの役割を含むが、これらの批評家は通常、訓練ではなく促され、実行に対して校正されない。
コーダと評論家が同じ実行ロールアウトで更新される共同トレーニングフレームワークであるExecuCriticを提案する。
批評家は、合格または失敗の結果を予測し、短い診断フィードバックを与える。
8つのコードベンチマークと2つの最近のオープンバックボーンで、ExecuCriticはGRPOを批判せずに改善し、レビュアーシステムとスカラー報酬モデルベースラインを誘導し、ポリシーのグラデーションのステップを減らし、サンドボックスの実行を減らした。
アブレーションと信頼性分析は、より大規模なサンプリング予算ではなく、より優れたクレジット割り当てによって利益が得られたことを示唆している。
関連論文リスト
- Benchmarking Code Improvement with Progressive, Adaptive, and Interactive Feedback [13.976149104483449]
PAIR-Benchは、大規模言語モデル(LLM)を評価するためのプログレッシブベンチマークである。
不正確なプログラムや不完全なプログラムを、フィードバック誘導による改善によって、より正しいプログラムに変換する。
モデルがターゲットの障害を修復するかどうかを計測し、ヒントを超えて一般化し、すでに正しい振る舞いを保持し、どのくらいの助けが必要なのかを測定します。
論文 参考訳(メタデータ) (2026-07-01T18:20:27Z) - When Do Intrinsic Rewards Work for Code Reasoning? A Comprehensive Study [77.64957118012423]
検証可能な報酬(RLVR)による強化学習は、大規模言語モデル推論において大きな進歩をもたらした。
最近の研究は、多数決や信頼に基づくスコアなど、モデル自身の信号から報酬を導き出すことによって、この問題に対処している。
本稿では,コード生成における本質的な報酬手法の体系的研究について述べる。
論文 参考訳(メタデータ) (2026-06-18T19:15:50Z) - Bias in the Loop: Auditing LLM-as-a-Judge for Software Engineering [0.0]
大規模な言語モデルは、コードのアーティファクトを評価するために裁判官としてますます使われています。
現在のプラクティスには、信頼性とバイアスの原則的な説明が欠けている。
計測ファーストレンズを用いたLCM-as-a-Judgeの符号化について検討する。
論文 参考訳(メタデータ) (2026-04-18T02:35:05Z) - Vibe-Coding: Feedback-Based Automated Verification with no Human Code Inspection, a Feasibility Study [0.0]
本稿では, 集団適応システム(CAS)におけるLCM生成適応マネージャのフィードバックに基づく自動検証について検討する。
ループにおける検証の主な課題は、実行時に生成されたコードの障害を検出する方法と、それをレポートする方法である。
この結果から,プログラムスキルを持たないドメインエキスパートが設計したシステムにおいて,フィードバック精度が信頼性の高いビブ符号化の主要な要因であることが示唆された。
論文 参考訳(メタデータ) (2026-04-16T10:58:03Z) - CR-Bench: Evaluating the Real-World Utility of AI Code Review Agents [0.7496422063843831]
我々は、ベンチマークデータセットであるCR-Benchと、コードレビューエージェントのためのきめ細かい評価パイプラインであるCR-Evaluatorを紹介する。
コードレビューエージェントは、隠されたすべての問題を特定するために設計された場合、低信号対雑音比を示すことができる。
本分析では,課題解決と突発的な発見との間に隠されたトレードオフを明らかにし,効果的なエージェント設計を制約するフロンティアを明らかにした。
論文 参考訳(メタデータ) (2026-03-10T21:29:42Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - RLAC: Reinforcement Learning with Adversarial Critic for Free-Form Generation Tasks [75.52891348667491]
オープンエンド生成タスクは、多様でしばしば暗黙的なタスク固有の評価ルーブリックを満たすために出力を必要とする。
関連するルーリックの数が多ければ多いほど、極めて高い検証コストと応答の不完全な評価につながる。
RLAC(Reinforcement Learning with Adrial Critic, Reinforcement Learning with Adrial Critic)を提案する。
論文 参考訳(メタデータ) (2025-11-03T17:15:05Z) - Training Language Model to Critique for Better Refinement [58.73039433159486]
textbfRefinement-oriented textbfCritique textbfOptimization (RCO)を導入する。
RCOは、批評家モデルによって生成された批評がアクターモデルに応答を洗練させるためのフィードバックループを使用する。
より良い改善につながる批判に焦点を当てることで、RCOは直接的な批判的嗜好評価の必要性を排除している。
論文 参考訳(メタデータ) (2025-06-27T12:10:57Z) - CodeCriticBench: A Holistic Code Critique Benchmark for Large Language Models [97.18215355266143]
本稿では,Large Language Models (LLMs) のコード批判ベンチマークであるCodeCriticBenchを紹介する。
具体的には、CodeCriticBenchには2つの主要なコードタスク(コード生成とコードQA)が含まれています。
さらに、評価プロトコルには、基本的な批評評価と、異なる特性に対する高度な批評評価が含まれる。
論文 参考訳(メタデータ) (2025-02-23T15:36:43Z) - DOCE: Finding the Sweet Spot for Execution-Based Code Generation [69.5305729627198]
本稿では,候補生成,$n$-best再ランク,最小ベイズリスク(MBR)復号化,自己老化などを含む包括的フレームワークを提案する。
本研究は,実行ベースメソッドの重要性と,実行ベースメソッドと実行フリーメソッドとの差を明らかにする。
論文 参考訳(メタデータ) (2024-08-25T07:10:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。