論文の概要: Combinatorial Synthesis: Scaling Code RLVR via Atomic Decomposition and Recombination
- arxiv url: http://arxiv.org/abs/2605.31058v1
- Date: Fri, 29 May 2026 09:29:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.508644
- Title: Combinatorial Synthesis: Scaling Code RLVR via Atomic Decomposition and Recombination
- Title（参考訳）: 組合せ合成:原子分解と再結合によるコードRLVRのスケーリング
- Abstract要約: RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデル(LLM)の顕著なコーディング能力を形成する基盤として登場した。
我々は、原子要素への分解と制御された再結合によって検証可能なコードタスクを生成する新しいフレームワークであるAtomic Decomposition and Recombination (ADR)を提案する。
私たちの仕事は、新しいコードタスク合成とスケーラブルなRLVRトレーニングのための新しいパラダイムに光を当てています。
- 参考スコア（独自算出の注目度）: 70.27578249309103
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reinforcement Learning with Verifiable Rewards (RLVR) has recently emerged as the cornerstone for shaping the remarkable coding abilities of Large Language Models (LLMs). However, the scalability of RLVR is severely constrained by the scarcity of sufficiently challenging verifiable code tasks that target near the model's edge of competence. Prior studies often rely on heuristic seed expansions for data synthesis, which severely limits both novelty and difficulty. Consequently, the training value of such data fails to scale proportionally with the size of its synthesis. To this end, we propose Atomic Decomposition and Recombination (ADR), a novel framework that generates verifiable code tasks via decomposition into atomic elements and controlled recombination, thereby enabling the generation of genuinely novel and challenging verifiable code tasks. Experiments and analysis demonstrate that ADR achieves superior originality, difficulty, diversity, and test quality over existing baselines, and consistently delivers greater improvements in code ability across RLVR in diverse downstream domains, including algorithmic programming, tool usage, and data science. Our work sheds light on a new paradigm for novel code task synthesis and scalable RLVR training.
- Abstract（参考訳）: RLVR(Reinforcement Learning with Verifiable Rewards)は、最近、LLM(Large Language Models)の顕著なコーディング能力を形成するための基盤として登場した。
しかし、RLVRのスケーラビリティは、モデルの能力の限界付近をターゲットとする十分に困難な検証可能なコードタスクの不足によって厳しく制約されている。
先行研究は、しばしばデータ合成のヒューリスティックなシード展開に依存しており、新規性と難易度の両方を著しく制限している。
したがって、そのようなデータのトレーニング値は、その合成のサイズに比例してスケールできない。
そこで本研究では,原子要素分解による検証可能なコードタスクを生成する新しいフレームワークであるAtomic Decomposition and Recombination (ADR)を提案する。
実験と分析は、ADRが既存のベースラインよりも独創性、難易度、多様性、テスト品質を向上し、アルゴリズムプログラミング、ツール使用、データサイエンスなど、さまざまな下流ドメインにおいて、RLVR全体にわたるコード能力の向上を一貫して達成していることを示している。
私たちの仕事は、新しいコードタスク合成とスケーラブルなRLVRトレーニングのための新しいパラダイムに光を当てています。
関連論文リスト
- Evolutionary Task Discovery: Advancing Reasoning Frontiers via Skill Composition and Complexity Scaling [10.652489725330401]
Evoutionary Task Discovery (EvoTD)は、アルゴリズムスキルと複雑度属性の2軸多様体上の有向探索としてデータを扱うフレームワークである。
多様性を高めるために新しいスキル構成を合成するクロスオーバー演算子と、構造制約をスケールするパラメトリック変異演算子を紹介する。
EvoTDは、モデルアーキテクチャ、事前学習体制、スケールを一貫して一般化する実質的な推論ゲインを提供します。
論文 参考訳（メタデータ） (2026-05-12T07:26:40Z) - Understanding by Reconstruction: Reversing the Software Development Process for LLM Pretraining [66.89012795621349]
大規模言語モデル(LLM)は、複雑なソフトウェア工学に必要な、深く、長期にわたる推論に苦しむことが多い。
本稿では,再構築による理解という,新しいパラダイムを提案する。
マルチエージェントシミュレーションを用いて潜在エージェント軌道を合成するフレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-11T09:23:20Z) - Beyond Quantity: Trajectory Diversity Scaling for Code Agents [51.71414642763219]
Trajectory Diversity Scalingは、コードエージェントのためのデータ合成フレームワークである。
TDScalingは、(1)実際のサービスの論理的依存関係をキャプチャするBusiness Clusterメカニズム、(2)軌道コヒーレンスを強制するブループリント駆動のマルチエージェントパラダイム、(3)ロングテールシナリオを指向する適応的な進化メカニズムの4つの革新を統合しています。
論文 参考訳（メタデータ） (2026-02-03T07:43:03Z) - Golden Goose: A Simple Trick to Synthesize Unlimited RLVR Tasks from Unverifiable Internet Text [90.21130870640057]
Golden Gooseは、未検証のインターネットテキストから無制限のRLVRタスクを合成するトリックだ。
大規模なRLVRデータセットであるGoseReason-0.7Mを合成するために、推論に富んだ検証不可能なコーパスを利用する。
また、Golden Gooseを現実の環境で展開し、サイバーセキュリティドメイン用の生のFinWebスクラップからRLVRタスクを合成します。
論文 参考訳（メタデータ） (2026-01-30T13:39:11Z) - X-Coder: Advancing Competitive Programming with Fully Synthetic Tasks, Solutions, and Tests [47.271827881215295]
我々は、完全に生成されたタスク、ソリューション、テストケースでコードLLMをトレーニングするための完全な合成アプローチを提案する。
これをサポートするために,我々は機能ベースの合成を活用し,SynthSmithと呼ばれる新しいデータ合成パイプラインを提案する。
SynthSmithは、検証されたソリューションとテストとともに、多種多様な挑戦的なタスクを生成する強力な可能性を示している。
X-Coderモデルシリーズは、LiveCodeBench v5では62.9 avg@8、v6では55.8で、DeepCoder-14B-PreviewとAReal-boba2-14Bを上回っている。
論文 参考訳（メタデータ） (2026-01-11T15:22:33Z) - EvoSyn: Generalizable Evolutionary Data Synthesis for Verifiable Learning [63.03672166010434]
我々は、進化的、タスクに依存しない、戦略を導いた、実行可能検証可能なデータ合成フレームワークを紹介します。
問題、多様な候補解、検証成果物を共同で合成する。
これは、人間による注釈付きチェックと戦略によるチェックの合意を強制する一貫性に基づく評価器を通じて戦略を反復的に発見する。
論文 参考訳（メタデータ） (2025-10-20T11:56:35Z) - VERIRL: Boosting the LLM-based Verilog Code Generation via Reinforcement Learning [32.974199255760944]
本稿では,Verilogコード生成に適した強化学習フレームワークを提案する。
スパース信号と雑音信号に対処するために,トレースバックに基づくRescore機構を提案する。
RL微調整中の破滅的忘れと過適合を軽減するため,サンプルバランスの重み付け戦略を導入する。
論文 参考訳（メタデータ） (2025-08-25T20:20:44Z) - CodeEvo: Interaction-Driven Synthesis of Code-centric Data through Hybrid and Iterative Feedback [21.627909324788597]
大規模言語モデルの訓練には高品質な命令コードペアの獲得が不可欠である。
2つのLLMエージェント間の反復的な相互作用を通じてコードデータを合成するフレームワークであるCodeEvoを提案する。
論文 参考訳（メタデータ） (2025-07-25T16:12:51Z) - Towards A Generalist Code Embedding Model Based On Massive Data Synthesis [35.04242699869519]
汎用コード検索のための最先端の埋め込みモデルである textbfCodeR (underlineCode underlineRetrieval) を導入する。
CodeRの優れたパフォーマンスは、DRU原則に基づいて構築された大規模な合成データセットであるCodeR-Pile上に構築されている。
論文 参考訳（メタデータ） (2025-05-19T04:37:53Z) - KodCode: A Diverse, Challenging, and Verifiable Synthetic Dataset for Coding [49.56049319037421]
KodCodeは、高品質で検証可能なトレーニングデータを取得するという永続的な課題に対処する、合成データセットである。
自己検証手順によって体系的に検証される質問解決テスト三つ子を含む。
このパイプラインは大規模で堅牢で多様なコーディングデータセットを生成する。
論文 参考訳（メタデータ） (2025-03-04T19:17:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。