論文の概要: Chiseling Out Efficiency: Structured Skeleton Supervision for Efficient Code Generation
- arxiv url: http://arxiv.org/abs/2606.06821v1
- Date: Fri, 05 Jun 2026 01:49:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-08 14:33:29.509155
- Title: Chiseling Out Efficiency: Structured Skeleton Supervision for Efficient Code Generation
- Title(参考訳): 効率的なコード生成のための構造化スケルトンスーパービジョン
- Authors: Yu Yu, Zhihong Sun, Jia Li, Yao Wan, Chuanyi Li, Hongyu Zhang, Ruyun Wang, Tao Huang, Zhi Jin, Ge Li, Chen Lyu,
- Abstract要約: 大規模言語モデル(LLM)は、構文的に正しく機能的に完全なプログラムを生成し、ソフトウェア開発を大幅に合理化することができる。
この効率ギャップを埋める既存のアプローチは、生成後のコードを反復的に最適化するか、効率のよいコードのコーパスで微調整モデルを使用するのが一般的である。
EffiSkelは効率のスケルトン誘導フレームワークで、効率のスケルトン抽出、再利用可能な構造パターンの効率的なコード抽出と学習を行う。
- 参考スコア(独自算出の注目度): 61.72280804975896
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) are capable of generating syntactically correct and functionally complete programs, greatly streamlining software development. However, recent studies reveal that these programs typically execute substantially slower than human-optimized counterparts. Existing approaches to bridging this efficiency gap typically involve either iteratively optimizing code after generation or fine-tuning models on corpora of efficient code. Yet, these methods expose the model to efficiency signals only by mimicking complete, optimized solutions, without explicitly encoding the structural code patterns essential for achieving high runtime performance. Addressing this gap presents two core challenges: (1) extracting and representing latent, efficiency-oriented structural patterns embedded within complex syntax and control flows, and (2) effectively learning these patterns without destabilizing the semantic training of LLMs. To tackle these challenges, we propose EffiSkel, an efficiency skeleton-guided framework that explicitly extracts and learns efficiency skeletons-abstract, reusable structural patterns underpinning efficient code-by leveraging three complementary strategies. These skeletons are integrated into a multi-task learning regime that jointly optimizes code generation and skeleton prediction. Experiments across multiple programming languages and benchmarks demonstrate that EffiSkel significantly enhances both functional correctness and efficiency, resulting on Mercury with DeepSeek-Coder (7B) a +11.11% (vs. EffiCoder) and +3.71% (vs. CodeDPO) higher Efficiency Ratio (ER), and a +0.36 (vs. EffiCoder) and +0.22 (vs. CodeDPO) increase in Average Speedup (AS). These results highlight the effectiveness of explicitly modeling efficiency skeletons in improving the runtime performance of code generated by LLMs.
- Abstract(参考訳): 大規模言語モデル(LLM)は、構文的に正しく機能的に完全なプログラムを生成し、ソフトウェア開発を大幅に合理化することができる。
しかし、近年の研究では、これらのプログラムは人間に最適化されたプログラムよりも実行がかなり遅いことが示されている。
この効率ギャップを埋める既存のアプローチは、生成後のコードを反復的に最適化するか、効率のよいコードのコーパスで微調整モデルを使用するのが一般的である。
しかし、これらの手法は、完全な最適化されたソリューションを模倣することでのみ効率のよい信号にモデルを公開し、高いランタイムパフォーマンスを達成するのに必要な構造的コードパターンを明示的にエンコードする。
このギャップに対処するためには,(1)複雑な構文や制御フローに埋め込まれた潜伏的で効率の良い構造パターンの抽出と表現,(2)LLMのセマンティックトレーニングを不安定にすることなく,これらのパターンを効果的に学習する,という2つの課題がある。
これらの課題に対処するために,効率のよいスケルトン誘導フレームワークであるEffiSkelを提案する。このフレームワークは,効率のスケルトン抽出,再利用可能な構造パターンを,3つの相補的な戦略を利用して抽出し,学習する。
これらのスケルトンは、コード生成とスケルトン予測を共同で最適化するマルチタスク学習システムに統合される。
複数のプログラミング言語とベンチマークの実験により、EffiSkelは機能的正当性と効率の両方を著しく向上させ、結果としてEffiCoder (7B) a +11.11% (vs. EffiCoder) と +3.71% (vs. CodeDPO) 高効率比 (ER) と a +0.36 (vs. EffiCoder) と +0.22 (vs. CodeDPO) が平均スピードアップ (AS) を増加させた。
これらの結果は、LLMによって生成されたコードの実行時性能を改善するために、効率スケルトンを明示的にモデル化することの有効性を強調している。
関連論文リスト
- SkelDPO: A Skeleton-Guided Direct Preference Optimization Framework for Efficient Code Generation [4.9858352320162]
SkelDPOはスケルトン誘導の好み最適化フレームワークである。
コードデータセットから効率的で非効率な実装を特定する。
トレーニング中、ジョイントコードとスケルトン優先の損失が導入され、モデルが意味的正確性を学ぶことができる。
論文 参考訳(メタデータ) (2026-06-05T02:01:38Z) - EffiSkill: Agent Skill Based Automated Code Efficiency Optimization [18.68243664364758]
EffiSkillは、LCMベースのエージェントのためのポータブルな最適化ツールボックスを構築する、コード効率最適化のためのフレームワークである。
EffiSkillは2段階の設計を採用しており、Stage IはOperatorとMeta Skillsを大規模で遅いプログラムペアからマイニングし、スキルライブラリを構築する。
ステージIIはこのライブラリを、実行不要の診断、スキル検索、計画構成、候補生成を通じて、未確認プログラムに適用する。
論文 参考訳(メタデータ) (2026-03-29T20:09:57Z) - An Initial Exploration of Contrastive Prompt Tuning to Generate Energy-Efficient Code [46.879983975894135]
本研究の目的は, LLM がエネルギー効率の良いコード生成にどう最適化できるか, 検討することである。
CPTはContrastive Learningテクニックを組み合わせることで、モデルが効率的かつ非効率なコードを区別するのに役立つ。
本研究では,Python,Java,C++の3つのモデルにまたがるコーディング問題のCPTを評価し,包括的評価を行う。
論文 参考訳(メタデータ) (2026-03-03T12:36:15Z) - WebLeaper: Empowering Efficiency and Efficacy in WebAgent via Enabling Info-Rich Seeking [60.35109192765302]
情報検索は、自律的な推論と意思決定を可能にする中核的な能力である。
我々は、高カバレッジなISタスクを構築し、効率的なソリューショントラジェクトリを生成するためのフレームワークであるWebLeaperを提案する。
本手法は,強いベースラインに対する有効性と効率性の向上を継続的に達成する。
論文 参考訳(メタデータ) (2025-10-28T17:51:42Z) - Towards Better Correctness and Efficiency in Code Generation [47.06216040246783]
本稿では,新しい性能報酬によって導かれる効率指向の強化学習フレームワークを提案する。
オンライン探索は、高精度ベースラインから始める際に最も効果的である。
実験では、コード精度を10.18%向上し、実行効率を7Bモデルで7.75%向上させる手法の有効性が示されている。
論文 参考訳(メタデータ) (2025-08-24T16:47:19Z) - Afterburner: Reinforcement Learning Facilitates Self-Improving Code Efficiency Optimization [46.33639431414019]
大規模言語モデルは機能的に正しいソリューションを生成するが、コード効率が不足することが多い。
この問題に対処する新しいテストタイム反復最適化フレームワークを導入する。
論文 参考訳(メタデータ) (2025-05-29T12:14:29Z) - EfficientFCN: Holistically-guided Decoding for Semantic Segmentation [49.27021844132522]
最先端セマンティックセマンティックセグメンテーションアルゴリズムは主に拡張されたFully Convolutional Networks (DilatedFCN)に基づいている
本稿では,拡張畳み込みのないイメージネット事前学習ネットワークをバックボーンとする,効率的なFCNを提案する。
このようなフレームワークは、計算コストの1/3しか持たない最先端の手法に比べて、同等またはそれ以上の性能を達成する。
論文 参考訳(メタデータ) (2020-08-24T14:48:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。