論文の概要: Multi-level Code Optimization via Mixture of Prompts

• arxiv url: http://arxiv.org/abs/2607.23665v1
• Date: Sun, 26 Jul 2026 14:01:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.182777
• Title: Multi-level Code Optimization via Mixture of Prompts
• Title（参考訳）: プロンプトの混合による多段階符号最適化
• Abstract要約: 我々は,新しいMixture-of-Promptsアーキテクチャ上に構築されたマルチレベルLCMベースのコード最適化手法であるOptimoを提案する。 我々はCOFFEとEffibenchの2つのコード効率ベンチマークでOptimoを評価した。 その結果、Optimoは57.48%のオプト%、すなわち、最適化されたプログラムの比率が元のプログラムよりも少なくとも10%高速であることを示す。
• 参考スコア（独自算出の注目度）: 15.795873116559472
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Runtime efficiency is a critical factor that impacts both software quality and user satisfaction. There are many approaches proposed for code optimization to improve runtime efficiency. Traditional code optimization methods operate on intermediate representations (IRs) during compilation for static languages. They are effective but struggle to handle dynamic languages that do not require compilation. Recently, large language models (LLMs) have been leveraged to directly optimize source code in dynamic languages. However, these methods fail to identify suitable optimization targets and usually conduct incomprehensive single-level optimization. To address these challenges, we propose Optimo, a multi-level LLM-based code optimization approach built on a novel Mixture-of-Prompts (MoP) architecture. In the MoP architecture, Optimo identifies time-critical code structures as performance bottlenecks via differential profiling. These structures are then routed to some optimization strategies, akin to expert models in MoE, each tailored to optimize specific code patterns. Unlike traditional approaches that focus only on statement-level optimizations, Optimo operates at four levels of abstraction, ranging from coarse-grained algorithmic improvements to fine-grained optimizations in API usage. We evaluate Optimo on two code efficiency benchmarks, COFFE and Effibench. Our results demonstrate that Optimo achieves an up to 57.48% opt%, i.e., the percentage of optimized programs that are correct and at least 10% faster than the original programs, and an up to 3.97x speedup when optimizing human-written code, and it consistently outperforms the best baseline by up to 96.51% in terms of opt%. Furthermore, Optimo achieves an up to 42.42% opt% and an up to 13.51x speedup when optimizing LLM-generated code.
• Abstract（参考訳）: 実行効率は、ソフトウェアの品質とユーザの満足度の両方に影響を与える重要な要因です。 実行効率を改善するため、コード最適化には多くのアプローチが提案されている。 従来のコード最適化手法は静的言語のコンパイル中に中間表現(IR)を操作する。 これらは効率的だが、コンパイルを必要としない動的言語を扱うのに苦労する。 近年,動的言語のソースコードを直接最適化するために,大規模言語モデル (LLM) が活用されている。 しかし、これらの手法は適切な最適化対象を特定することができず、通常は包括的な単一レベル最適化を行う。 これらの課題に対処するために,新しいMixture-of-Prompts (MoP)アーキテクチャ上に構築されたマルチレベルLCMベースのコード最適化手法であるOptimoを提案する。 MoPアーキテクチャでは、Optimoは時間クリティカルなコード構造を差分プロファイリングによるパフォーマンスボトルネックとして識別する。 これらの構造は、MoEのエキスパートモデルに似た最適化戦略にルーティングされ、それぞれが特定のコードパターンを最適化するように調整される。 ステートメントレベルの最適化のみに焦点を当てた従来のアプローチとは異なり、Optimoは、粗粒度アルゴリズムの改善から、API使用時のきめ細かい最適化まで、4つの抽象化レベルで運用されている。 我々はCOFFEとEffibenchの2つのコード効率ベンチマークでOptimoを評価した。 その結果,オプティモは,最適化プログラムの精度を最大57.48%,最適化プログラムの精度を最大10%,人書きコードの最適化時に最大3.97倍に向上し,オプティマスでは最大96.51%,最適化プログラムは最大96.51%,最適化プログラムは最大57.48%,最適化プログラムは最大3.97倍の高速化を実現していることがわかった。 さらに、OptimoはLLM生成コードの最適化時に最大42.42%のオプト%と最大13.51倍のスピードアップを達成する。

関連論文リスト

• SemOpt: LLM-Driven Code Optimization via Rule-Based Analysis [7.451702651736553]
  SemOptは静的プログラム分析を利用して最適化可能なコードセグメントを正確に識別し、対応する最適化戦略を検索し、最適化結果を生成するフレームワークである。 151の最適化タスクを含むベンチマークにおいて、SemOptは、ベースラインに比べて1.38から28倍の最適化を成功させることにより、異なるLLM下での有効性を示す。
  論文  参考訳（メタデータ） (2025-10-18T07:44:18Z)
• metaTextGrad: Automatically optimizing language model optimizers [30.97549551660703]
  大規模言語モデル(LLM)は、学習アルゴリズム、評価、最適化タスクにますます使われている。 近年の研究では、モデルプロンプトやデモ、予測自体、その他のコンポーネントの自動最適化にLLMベースの手法を用いることで、AIシステムのパフォーマンスが大幅に向上することが示されている。 提案手法は,メタプロンプトとメタ構造という2つの重要なコンポーネントから構成される。この2つの組み合わせは,複数のベンチマークにおけるパフォーマンスを著しく向上させ,最高のベースラインと比較して平均6%の絶対性能向上を実現している。
  論文  参考訳（メタデータ） (2025-05-24T05:40:38Z)
• Search-Based LLMs for Code Optimization [16.843870288512363]
  開発者によって書かれたコードは、通常効率上の問題に悩まされ、様々なパフォーマンス上のバグを含んでいる。 最近の研究は、タスクをシーケンス生成問題とみなし、大規模言語モデル(LLM)のようなディープラーニング(DL)技術を活用している。 改良された最適化手法の反復的洗練と発見を可能にする,SBLLM という検索ベース LLM フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-22T06:59:46Z)
• Should AI Optimize Your Code? A Comparative Study of Classical Optimizing Compilers Versus Current Large Language Models [0.0]
  大規模言語モデル(LLM)は、コード最適化に革命をもたらすAIアプローチの可能性に関する興味深い疑問を提起する。 この作業は、コンパイラコミュニティにとって重要な質問に答えることを目的としている。 本稿では3つの古典最適化コンパイラと2つの最近の大規模言語モデルの比較分析を行う。
  論文  参考訳（メタデータ） (2024-06-17T23:26:41Z)
• A Problem-Oriented Perspective and Anchor Verification for Code Optimization [43.28045750932116]
  大規模言語モデル(LLM)は、様々なプログラミングタスクを解く際、顕著な能力を示している。 本稿では,LLMが最小実行時間に最適化する能力について検討する。
  論文  参考訳（メタデータ） (2024-06-17T16:10:10Z)
• LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
  グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。 本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
  論文  参考訳（メタデータ） (2024-05-30T06:24:14Z)
• CompilerDream: Learning a Compiler World Model for General Code Optimization [58.87557583347996]
  汎用コード最適化のためのモデルベース強化学習手法であるCompilerDreamを紹介する。 最適化パスの固有の特性を正確にシミュレートするコンパイラの世界モデルと、このモデルで訓練されたエージェントから、効率的な最適化戦略を生成する。 さまざまなデータセットを網羅し、LLVMのビルトイン最適化や、値予測とエンドツーエンドコード最適化の両方の設定における最先端メソッドを超越している。
  論文  参考訳（メタデータ） (2024-04-24T09:20:33Z)
• Localized Zeroth-Order Prompt Optimization [54.964765668688806]
  そこで我々は,ZOPO(Localized zeroth-order prompt optimization)という新しいアルゴリズムを提案する。 ZOPOはニューラル・タンジェント・カーネルをベースとしたガウス法を標準ゼロ階次最適化に取り入れ、高速な局所最適探索を高速化する。 注目すべきは、ZOPOは最適化性能とクエリ効率の両方の観点から、既存のベースラインを上回っていることだ。
  論文  参考訳（メタデータ） (2024-03-05T14:18:15Z)
• Large Language Models as Optimizers [106.52386531624532]
  本稿では,大規模言語モデル (LLM) をプロンプトとして活用するためのシンプルで効果的な手法である Prompting (OPRO) を提案する。 各最適化ステップにおいて、LLMは、前述した値を含むプロンプトから新しい解を生成する。 OPROにより最適化された最良のプロンプトは、GSM8Kで最大8%、Big-Bench Hardタスクで最大50%向上することを示した。
  論文  参考訳（メタデータ） (2023-09-07T00:07:15Z)
• VeLO: Training Versatile Learned Optimizers by Scaling Up [67.90237498659397]
  私たちは、ディープラーニングの成功の背後にある同じスケーリングアプローチを活用して、汎用性を学びます。 私たちは、パラメータの更新を取り込み出力する小さなニューラルネットワークであるディープラーニングのためのインジェクションをトレーニングします。 学習したメタトレーニングコード、関連するトレインテストデータ、およびvelo-code.ioのベースラインを備えた広範なベンチマークスイートをオープンソースとして公開しています。
  論文  参考訳（メタデータ） (2022-11-17T18:39:07Z)
• Learning to Superoptimize Real-world Programs [79.4140991035247]
  本稿では,ニューラルシークエンス・ツー・シーケンス・モデルを用いて,実世界のプログラムを最適化するフレームワークを提案する。 我々は、x86-64アセンブリでオープンソースプロジェクトから抽出された25万以上の実世界の関数からなるデータセットであるBig Assemblyベンチマークを紹介した。
  論文  参考訳（メタデータ） (2021-09-28T05:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。