論文の概要: Green Code or Costly Code? Evaluating the Energy Costs of Iterative LLM-Based Code Optimizations
- arxiv url: http://arxiv.org/abs/2610.32891v1
- Date: Fri, 23 Oct 2026 16:58:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.615876
- Title: Green Code or Costly Code? Evaluating the Energy Costs of Iterative LLM-Based Code Optimizations
- Title(参考訳): グリーンコードかコストコードか? 反復LLMコード最適化のエネルギーコスト評価
- Abstract要約: 大きな言語モデル(LLM)は、パフォーマンスのためのコードの最適化にますます使われています。
LLM自己精製パイプラインが生成する性能最適化コードもエネルギー効率が高いかを測定する。
LLMは、人間のエンジニアが書くものと比較して、より高速に探すがエネルギーを消費するコードを生成する。
- 参考スコア(独自算出の注目度): 2.586100784625842
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) are increasingly used to optimize code for performance. This practice often assumes that improvements in execution speed naturally translate into overall lower energy consumption. We challenge this assumption empirically by measuring whether performance-optimized code produced by LLM self-refinement pipelines is also energy-efficient relative to canonical human reference solutions, and whether the energy cost of the optimization process can be offset by subsequent execution-time savings. We evaluate 11 open-source models across four decoding configurations on all 1,000 problems of EffiBench, a state-of-the-art performance benchmark, while collecting per-process, hardware-level energy measurements throughout. Inference energy spans 0.79 to 8.68 MJ across model-variant pairs, which is roughly equivalent to the energy of 250 to 2800 GPT-4.1 queries. Limiting the maximum number of output tokens has the largest impact, reducing energy use by up to 69% compared to the default configuration. On the execution side, 42 of 44 configurations produce code that consumes more energy per problem than the canonical human reference, with overheads ranging from +4% to +886%. The two exceptions achieve only marginal gains, with break-even points on the order of 10^6 to 10^7 executions. Mixture-of-Experts architectures consume substantially less inference energy than equivalently-sized dense models without sacrificing correctness, making architectural choice a more consequential sustainability lever than decoding parameters. Performance optimization and energy efficiency are not always aligned goals: LLM self-refinement consistently produces faster-seeking but energy-heavier code relative to what a human engineer would write. All artifacts are available at https://doi.org/10.5281/zenodo.23598170.
- Abstract(参考訳): 大きな言語モデル(LLM)は、パフォーマンスのためのコードの最適化にますます使われています。
この慣行は、実行速度の改善が自然に全体のエネルギー消費を減少させると仮定することが多い。
本研究では, LLM自己精製パイプラインが生成する性能最適化コードが, 標準ヒト参照ソリューションと比較してエネルギー効率が高いか, およびその後の実行時間節約によって最適化プロセスのエネルギーコストが相殺可能であるか, を実験的に評価することによって, この仮定に挑戦する。
我々は、最新のパフォーマンスベンチマークであるEffiBenchの1000問題すべてに対して、4つのデコード構成で11のオープンソースモデルを評価し、各プロセス毎のハードウェアレベルのエネルギー測定値を収集した。
推論エネルギーは0.79から8.68MJで、ほぼ250から2800 GPT-4.1クエリのエネルギーに相当する。
最大出力トークン数の制限は最大の影響であり、デフォルトの設定に比べてエネルギー使用量を最大69%削減する。
実行側では、44の構成のうち42が、標準的な人間の参照よりも問題当たりのエネルギーを消費するコードを生成し、オーバーヘッドは+4%から+886%である。
この2つの例外は10^6から10^7の順序で、限界ゲインしか達成しない。
Mixture-of-Expertsアーキテクチャは、精度を犠牲にすることなく同等の大きさの高密度モデルよりもかなり少ない推論エネルギーを消費し、アーキテクチャの選択はデコードパラメータよりも連続的な持続可能性レバーとなる。
性能の最適化とエネルギー効率は必ずしも一致した目標ではない: LLMの自己制限は、人間のエンジニアが書くものと比較して、常に高速に探すがエネルギーを消費するコードを生成する。
すべてのアーティファクトはhttps://doi.org/10.5281/zenodo.23598170で入手できる。
関連論文リスト
- Towards Green AI: Evaluating Energy Efficiency for Quantized LLM Inference [0.0]
本稿では,大規模言語モデルの定量化のための量のみの量子化戦略を統一的に評価する。
バッチサイズが大きくなるにつれて、量子化戦略は完全精度モデルと比較してエネルギー効率が極端に向上することを示す。
我々は,低炭素量化戦略を戦略的に選択するための方策を提案する。
論文 参考訳(メタデータ) (2026-10-13T00:52:32Z) - Improving the Energy-Efficiency of the Code Generated by LLMs through Effective Prompting [3.4426578336707814]
我々は,エネルギー効率のよいコード生成戦略を21個評価し,広く使用されている10個のオープンウェイトおよびプロプライエタリなLCMに対して8個の評価戦略を同定した。
評価モデル全体で、選択されたプロンプト戦略は、Pythonで25%、C++コード生成で17%のエネルギー削減を達成した。
論文 参考訳(メタデータ) (2026-10-01T23:05:15Z) - Optimas: An Intelligent Analytics-Informed Generative AI Framework for Performance Optimization [0.6117371161379209]
Optimasは、マルチエージェントワークフロー上に構築された、モジュール化された、完全に自動化されたエンドツーエンドのAI生成フレームワークである。
パフォーマンス診断を、確立された文献ベースのコード変換にマッピングする。
100%正しいコードを生成し、98.82%以上の実験で性能を向上させる。
論文 参考訳(メタデータ) (2026-04-26T21:34:51Z) - An Initial Exploration of Contrastive Prompt Tuning to Generate Energy-Efficient Code [46.879983975894135]
本研究の目的は, LLM がエネルギー効率の良いコード生成にどう最適化できるか, 検討することである。
CPTはContrastive Learningテクニックを組み合わせることで、モデルが効率的かつ非効率なコードを区別するのに役立つ。
本研究では,Python,Java,C++の3つのモデルにまたがるコーディング問題のCPTを評価し,包括的評価を行う。
論文 参考訳(メタデータ) (2026-03-03T12:36:15Z) - Towards Green AI: Decoding the Energy of LLM Inference in Software Development [46.879983975894135]
AI支援ツールはソフトウェア開発にますます統合されているが、大きな言語モデル(LLM)に依存しているため、相当な計算とエネルギーコストが伴う。
モデルが入力を処理して内部表現を構築した(1)プリフィルと,(2)デコードで格納された状態を用いて出力トークンを生成する(2)プリフィルとを区別し,LCM推定エネルギー消費の位相レベル解析を行う。
論文 参考訳(メタデータ) (2026-02-05T14:38:19Z) - Evaluating the Energy-Efficiency of the Code Generated by LLMs [2.1983110147455482]
本稿では,878のプログラミング問題に対して,20の一般的な大規模言語モデルが生成するコードのエネルギー効率について検討する。
研究されたLLMのうち、DeepSeek-v3とGPT-4oは最もエネルギー効率の良いコードを生成する。
動的プログラミング、バックトラック、ビット操作のような特定のアルゴリズム群では、LLM生成コードは人間の生成した標準解の最大450倍のエネルギーを消費することができる。
論文 参考訳(メタデータ) (2025-05-23T18:13:27Z) - EfficientLLM: Efficiency in Large Language Models [64.3537131208038]
大規模言語モデル(LLM)は大きな進歩を導いてきたが、その増加とコンテキストウィンドウは計算、エネルギー、金銭的コストを禁止している。
本稿では,新しいベンチマークであるEfficientLLMを紹介する。
論文 参考訳(メタデータ) (2025-05-20T02:27:08Z) - Leveraging LLMs to Automate Energy-Aware Refactoring of Parallel Scientific Codes [1.2178992475191555]
大規模言語モデル (LLM) は、並列的な科学的コードを生成するためにますます使われている。
エネルギー効率のよい並列コードを生成する自動スクリーニングフレームワークLASSI-EEを提案する。
我々は、k個の符号候補を生成する際に、期待されるエネルギー削減を定量化する新しい計量であるEnergy-reduction@kを紹介する。
論文 参考訳(メタデータ) (2025-05-04T17:05:34Z) - PerfCodeGen: Improving Performance of LLM Generated Code with Execution Feedback [78.89596149768458]
大規模言語モデル(LLM)は、ソフトウェア開発タスクを支援するために広く採用されている。
LLM生成コードの性能を向上させるトレーニングフリーフレームワークPerfCodeGenを提案する。
論文 参考訳(メタデータ) (2024-11-18T06:22:38Z) - Learning Performance-Improving Code Edits [107.21538852090208]
本稿では,大規模言語モデル(LLM)を高レベルプログラム最適化に適用するためのフレームワークを提案する。
まず、競争力のある77,000以上のC++プログラミングサブミッションペアによる、人間のプログラマによるパフォーマンス改善編集のデータセットをキュレートする。
提案手法は,検索をベースとした少数ショットプロンプトとチェーン・オブ・シンクレットを提案し,その微調整には,自己再生に基づく性能条件付き生成と合成データ拡張が含まれる。
論文 参考訳(メタデータ) (2023-02-15T18:59:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。