論文の概要: TIPCODER: Reinforcement Learning Boosted Test-time Instruction Proposer for Code Generation
- arxiv url: http://arxiv.org/abs/2609.03309v1
- Date: Thu, 03 Sep 2026 02:58:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.898359
- Title: TIPCODER: Reinforcement Learning Boosted Test-time Instruction Proposer for Code Generation
- Title(参考訳): TIPCoDER: コード生成のための強化学習強化テストタイムインストラクションプロポーラ
- Abstract要約: TipCoderは、コード合成の前に問題固有の補助ヒントを生成するテスト時命令プロジェクタである。
ベースソリューションとチップ誘導ソリューションの両方を生成し、ポストホック選択にReward Modelを適用する。
- 参考スコア(独自算出の注目度): 8.326249001898317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-time scaling for code generation typically explores the solution space by sampling multiple programs from a fixed instruction. We study a complementary direction: instance-level instruction-space exploration. Our observation is that many coding failures stem from missing constraints, overlooked edge cases, or misleading reasoning paths induced by the original prompt. To address this, we propose TipCoder, a test-time instruction proposer that generates problem-specific auxiliary tips before code synthesis. TipCoder distills multi-turn debugging trajectories into proactive guidance and further optimizes the Proposer with reinforcement learning using a marginal-utility reward. At inference time, it generates both a base solution and a tip-guided solution, and applies a Reward Model for post-hoc selection. This exploration-selection design allows tips to expose additional candidate potential while reducing regressions from unnecessary guidance. Across the evaluated code-generation benchmarks and target Code LLMs, TipCoder provides a consistent instruction-level test-time scaling strategy, comparing favorably with stochastic sampling and generic prompt optimization baselines under a shared reward-model-based selection protocol.
- Abstract(参考訳): コード生成のためのテストタイムスケーリングは、典型的には、固定命令から複数のプログラムをサンプリングすることで、ソリューション空間を探索する。
我々は,インスタンスレベルのインストラクション空間探索という補完的な方向について研究する。
私たちの観察では、多くのコーディング失敗は、制約の欠如、見過ごされたエッジケース、あるいは元のプロンプトによって引き起こされた誤った推論パスに起因する。
そこで本研究では,コード合成に先立って,問題固有の補助ヒントを生成するテスト時命令プロジェクタTipCoderを提案する。
TipCoderはマルチターンデバッギングトラジェクトリをプロアクティブガイダンスに蒸留し、限界効用報酬を用いた強化学習によりProposerをさらに最適化する。
推論時には、ベースソリューションとチップ誘導ソリューションの両方を生成し、ポストホック選択にリワードモデルを適用する。
この探索-選択設計により、ヒントは不要なガイダンスからの回帰を低減しつつ、追加の潜在的な可能性を公開することができる。
TipCoderは評価済みのコード生成ベンチマークと目標のコードLLM全体にわたって、一貫した命令レベルのテスト時間スケーリング戦略を提供し、確率的サンプリングと汎用的なプロンプト最適化ベースラインを、共有報酬モデルベースの選択プロトコルの下で好適に比較する。
関連論文リスト
- Gradient-Guided Reward Optimization for Inference-time Alignment [22.28081683932275]
グラデーションガイダンスによるデコーディングにおいて、ターゲットとなる最小限の介入を行う軽量な推論時手法を提案する。
実験により、GGROは安全性、有用性、推論ベンチマークを横断する推論時間アライメントを一貫して改善することが示された。
また、コンピュータのオーバーヘッドを最小限に抑えて、高品質なレスポンスと、ハッキングに報いるロバストさのカバレッジも向上する。
論文 参考訳(メタデータ) (2026-06-08T15:33:13Z) - APAO: Adaptive Prefix-Aware Optimization for Generative Recommendation [26.371939617653084]
生成レコメンデーションは自動回帰生成プロセスであり、ユーザインタラクション履歴に基づいて、次の項目の離散トークンを予測する。
既存の生成レコメンデーションモデルは、通常、クロスエントロピー損失のようなトークンレベルの可能性目標で訓練される。
標準的なトレーニングでは、推論中にビームサーチが低確率の分岐を産み出すという事実を無視して、地道の歴史が常に利用可能であると仮定している。
論文 参考訳(メタデータ) (2026-03-03T08:29:15Z) - What If We Allocate Test-Time Compute Adaptively? [2.1713977971908944]
テストタイムスケーリングは、推論計算を均一に割り当て、固定されたサンプリング戦略を使用し、再ランク付けにのみ検証を適用する。
本稿では,推論を反復的軌跡生成と選択として扱う検証器誘導適応フレームワークを提案する。
データセット全体にわたって、当社の動的PRMガイダンスアプローチは、テスト時間の直接スケーリングよりも一貫して優れています。
論文 参考訳(メタデータ) (2026-02-01T07:30:22Z) - Adaptive Blockwise Search: Inference-Time Alignment for Large Language Models [13.368340836611075]
インタイム法は微調整の柔軟な代替手段を提供するが、その一様計算の努力は、しばしば準最適アライメントをもたらす。
本稿では,ブロックワイズ検索の新たな戦略であるAdaSearchを紹介する。
サンプリングスケジュールを用いて、固定された計算予算を適応的に割り当て、クリティカルトークンに探索努力を集中させる。
論文 参考訳(メタデータ) (2025-10-27T13:48:59Z) - Alignment with Fill-In-the-Middle for Enhancing Code Generation [56.791415642365415]
コードスニペットを小さな粒度のブロックに分割し,同じテストケースからより多様なDPOペアを生成する手法を提案する。
提案手法は,HumanEval (+), MBPP (+), APPS, LiveCodeBench, BigCodeBenchといったベンチマークデータセットの実験によって検証された,コード生成タスクの大幅な改善を示す。
論文 参考訳(メタデータ) (2025-08-27T03:15:53Z) - TACO: Think-Answer Consistency for Optimized Long-Chain Reasoning and Efficient Data Learning via Reinforcement Learning in LVLMs [50.820065021136024]
DeepSeek R1には、大規模言語モデル(LLM)のためのかなり高度な複雑な推論がある。
最近の手法は、R1の推論能力をマルチモーダルな設定で再現しようと試みている。
視覚推論のための新しい強化学習アルゴリズムTACOを提案する。
論文 参考訳(メタデータ) (2025-05-27T06:30:48Z) - KodCode: A Diverse, Challenging, and Verifiable Synthetic Dataset for Coding [49.56049319037421]
KodCodeは、高品質で検証可能なトレーニングデータを取得するという永続的な課題に対処する、合成データセットである。
自己検証手順によって体系的に検証される質問解決テスト三つ子を含む。
このパイプラインは大規模で堅牢で多様なコーディングデータセットを生成する。
論文 参考訳(メタデータ) (2025-03-04T19:17:36Z) - Teaching Your Models to Understand Code via Focal Preference Alignment [70.71693365502212]
既存の手法では、テストケースの成功率に基づいてn個の候補解が評価される。
このアプローチは、特定のエラーを特定するのではなく、失敗するコードブロック全体を整列するので、意味のあるエラーと訂正の関係を捉えるのに必要な粒度が欠けている。
我々は、人間の反復デバッグを模倣してコードLLMを洗練させる新しい優先順位調整フレームワークであるTarget-DPOを提案する。
論文 参考訳(メタデータ) (2025-03-04T16:56:34Z) - StepCoder: Improve Code Generation with Reinforcement Learning from
Compiler Feedback [58.20547418182074]
2つの主要コンポーネントからなるコード生成の新しいフレームワークであるStepCoderを紹介します。
CCCSは、長いシーケンスのコード生成タスクをCurriculum of Code Completion Subtaskに分割することで、探索課題に対処する。
FGOは、未実行のコードセグメントをマスクすることでのみモデルを最適化し、Fine-Grained Optimizationを提供する。
提案手法は,出力空間を探索し,対応するベンチマークにおいて最先端の手法より優れた性能を発揮する。
論文 参考訳(メタデータ) (2024-02-02T13:14:31Z) - CodeRL: Mastering Code Generation through Pretrained Models and Deep
Reinforcement Learning [92.36705236706678]
CodeRLは、事前訓練されたLMと深層強化学習によるプログラム合成タスクのための新しいフレームワークである。
推論中、我々は重要なサンプリング戦略を持つ新しい生成手順を導入する。
モデルバックボーンについては,CodeT5のエンコーダデコーダアーキテクチャを拡張し,学習目標を拡張した。
論文 参考訳(メタデータ) (2022-07-05T02:42:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。