論文の概要: CodeMidas: Scaling Agentic Coding RL Environments from Code Itself
- arxiv url: http://arxiv.org/abs/2609.22068v1
- Date: Fri, 18 Sep 2026 17:55:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:17.232229
- Title: CodeMidas: Scaling Agentic Coding RL Environments from Code Itself
- Title(参考訳): CodeMidas: コード自体からエージェントコーディングRL環境をスケーリングする
- Abstract要約: 強化学習(RL)による有能な符号化エージェントの訓練には、信頼性のある検証器による多様なタスクが必要である。
オープンソースはそのようなタスクの豊富なソースを提供するが、既存のメソッドは通常、問題やコミットのような開発成果物に依存している。
我々は,既存の実装機能を,ソースコードを唯一のタスク固有の入力として使用して実行可能なRL環境に変換するエージェントパイプラインであるCodeMidasを紹介する。
- 参考スコア(独自算出の注目度): 55.204742661138745
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training capable coding agents via reinforcement learning (RL) requires diverse tasks with reliable verifiers. Open-source codebases offer a rich source of such tasks, while existing methods typically rely on development artifacts such as issues and commits, limiting the range of tasks that can be extracted. To better scale RL environments, we present CodeMidas, an agentic pipeline that turns implemented functionality in existing codebases into executable RL environments using source code as its only task-specific input. CodeMidas allocates agentic compute to every stage of environment construction: agents explore implemented functionality to formulate behavioral specifications, construct tests grounded in execution of the original code, and validate and filter candidate tasks through execution checks and repeated solution rollouts. The resulting dataset has 5,545 training tasks from 3,185 open-source codebases spanning 23 programming languages and 15 technical domains. Training MiMo-V2.5 on these tasks with GRPO improves performance on all five diverse benchmarks, covering issue repair (DeepSWE + 11.7%), whole-program construction (ProgramBench +17%), and terminal work (Terminal-Bench v2.1 +8.5%). Ablations show that increasing the number of high-quality training tasks improves performance. Trajectory analysis shows the RL-trained agent demonstrates better behaviors like increasing codebase exploration and more diverse self-verification. These results establish source code as a scalable foundation for constructing RL environments that improve coding agents across diverse software tasks.
- Abstract(参考訳): 強化学習(RL)による有能な符号化エージェントの訓練には、信頼性のある検証器による多様なタスクが必要である。
オープンソースのコードベースはそのようなタスクの豊富なソースを提供するが、既存のメソッドは通常、イシューやコミットのような開発成果物に依存しており、抽出可能なタスクの範囲を制限する。
既存のコードベースで実装された機能を,ソースコードを唯一のタスク固有の入力として使用して実行可能なRL環境に変換する,エージェントパイプラインであるCodeMidasを提案する。
CodeMidasは環境構築のすべての段階にエージェント計算を割り当てている。エージェントは動作仕様を定式化するための実装された機能を探り、元のコードの実行に基礎を置いたコンストラクトテストを行い、実行チェックと繰り返しのソリューションロールアウトを通じて候補タスクの検証とフィルタリングを行う。
得られたデータセットには、23のプログラミング言語と15のテクニカルドメインにまたがる3,185のオープンソースコードベースから5,545のトレーニングタスクがある。
MiMo-V2.5をGRPOでトレーニングすることで、問題修正(DeepSWE + 11.7%)、プログラム全体の構成(ProgramBench +17%)、ターミナル作業(Terminal-Bench v2.1 + 8.5%)を含む5つのベンチマークのパフォーマンスが向上した。
アブレーションは、高品質なトレーニングタスクの数を増やすことで、パフォーマンスが向上することを示している。
軌道分析は、RL訓練されたエージェントがコードベース探索の増加やより多様な自己検証などのより良い振る舞いを示すことを示している。
これらの結果は、様々なソフトウェアタスクにまたがるコーディングエージェントを改善するRL環境を構築するためのスケーラブルな基盤としてソースコードを確立する。
関連論文リスト
- CodeScout: An Effective Recipe for Reinforcement Learning of Code Search Agents [43.426809750160665]
標準Unix端末にしか搭載されていない符号化エージェントをトレーニングして,強靭な結果が得られることを示す。
本研究は,コード検索,報酬設計,RL最適化のための既存のコーディングエージェント環境を再利用する技術に重点を置いている。
得られたモデルファミリであるCodeScoutと、コミュニティが構築するすべてのコードとデータをリリースします。
論文 参考訳(メタデータ) (2026-03-18T15:25:42Z) - CodeRL+: Improving Code Generation via Reinforcement with Execution Semantics Alignment [98.87395842351627]
大きな言語モデル(LLM)は、巨大なコードコーパスから学習することで、コード生成において優れています。
テキストパターンのトレーニングと機能的正しさの目標の間には、基本的な意味的ギャップが残っている。
我々は、コード生成のためのRLVRトレーニングパイプラインに実行セマンティクスアライメントを統合する新しいアプローチであるCodeRL+を提案する。
論文 参考訳(メタデータ) (2025-10-21T09:48:06Z) - AgentRL: Scaling Agentic Reinforcement Learning with a Multi-Turn, Multi-Task Framework [76.96794548655292]
大規模言語モデル(LLM)は、オンラインインタラクションを通じて学習できる汎用エージェントの構築への関心が高まっている。
マルチターンでLLMエージェントをトレーニングするために強化学習(RL)を適用することで、スケーラブルなインフラストラクチャと安定したトレーニングアルゴリズムが欠如しているため、マルチタスク設定は依然として困難である。
本稿では、スケーラブルなマルチターンマルチタスクエージェントRLトレーニングのためのAgentRLフレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-05T13:40:01Z) - Generalizable End-to-End Tool-Use RL with Synthetic CodeGym [52.31172214690965]
エージェントRLのための多目的ツール環境を多種多様な、検証可能な、制御可能な、多目的ツール環境を合成するフレームワークであるCodeGymを紹介する。
CodeGymは、静的コーディングの問題を対話的な環境に書き換え、原子関数やロジックを呼び出し可能なツールに抽出する。
さまざまなサイズのモデルとCodeGymでトレーニングされたチェーン・オブ・コンフィグレーションは、一貫したアウト・オブ・ディストリビューションの一般化性を示す。
論文 参考訳(メタデータ) (2025-09-22T03:03:56Z) - GitTaskBench: A Benchmark for Code Agents Solving Real-World Tasks Through Code Repository Leveraging [41.754784344572286]
実際のシナリオでコードエージェントを評価するベンチマークであるGitTaskBenchをリリースしています。
各タスクは、自動化された人為的な評価ハーネスと関連するリポジトリをペアリングする。
また,エージェント性能の経済的利益を定量化するためのα値指標を提案する。
論文 参考訳(メタデータ) (2025-08-26T12:48:05Z) - R1-Code-Interpreter: LLMs Reason with Code via Supervised and Multi-stage Reinforcement Learning [23.795932850992816]
R1-Code-Interpreterは,マルチターン制御微調整(SFT)と強化学習(RL)によって訓練されたテキストのみの大規模言語モデル(LLM)の拡張である。
144種類の多種多様な推論・計画タスクにまたがる汎用コードインタープリタのトレーニングは,タスクの不均一性や有効サンプルの不足による重大な課題を呈している。
最終モデルであるR1-CI-14Bは、37のテストタスクの平均精度を44.1%から72.4%に改善し、テキストのみのGPT-4o (58.6%) と GPT-4o with Code Interpreter (70.9%) を上回りました。
論文 参考訳(メタデータ) (2025-05-27T18:47:33Z) - RL-GPT: Integrating Reinforcement Learning and Code-as-policy [82.1804241891039]
本稿では,低速エージェントと高速エージェントからなる2レベル階層型フレームワークRL-GPTを提案する。
遅いエージェントはコーディングに適したアクションを分析し、速いエージェントはコーディングタスクを実行する。
この分解は、各エージェントが特定のタスクに効果的に集中し、パイプライン内で非常に効率的なことを証明します。
論文 参考訳(メタデータ) (2024-02-29T16:07:22Z) - StepCoder: Improve Code Generation with Reinforcement Learning from
Compiler Feedback [58.20547418182074]
2つの主要コンポーネントからなるコード生成の新しいフレームワークであるStepCoderを紹介します。
CCCSは、長いシーケンスのコード生成タスクをCurriculum of Code Completion Subtaskに分割することで、探索課題に対処する。
FGOは、未実行のコードセグメントをマスクすることでのみモデルを最適化し、Fine-Grained Optimizationを提供する。
提案手法は,出力空間を探索し,対応するベンチマークにおいて最先端の手法より優れた性能を発揮する。
論文 参考訳(メタデータ) (2024-02-02T13:14:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。