論文の概要: Green AI: Cost of LLM-Based Code Completion

• arxiv url: http://arxiv.org/abs/2609.33918v1
• Date: Sun, 27 Sep 2026 20:54:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 15:38:07.475332
• Title: Green AI: Cost of LLM-Based Code Completion
• Title（参考訳）: Green AI: LLMベースのコード補完のコスト
• Abstract要約: コード補完は、ソフトウェア開発において、大規模言語モデル(LLM)の最も広く使われているアプリケーションの1つである。 LLMの精度が向上したにもかかわらず、推論のエネルギーコストは未調査のままである。 本研究では,LLMコード補完における精度とエネルギー消費のトレードオフについて検討する。
• 参考スコア（独自算出の注目度）: 43.39187796844033
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Code completion is one of the most widely used applications of large language models (LLMs) in software development. Open-weight LLMs are increasingly adopted for locally deployed code completion systems, partly due to privacy concerns. Despite advances in LLM accuracy, the energy cost of inference remains underexplored, particularly under large-context workloads and across programming languages. This study investigates the trade-off between accuracy and energy consumption in LLM-based code completion and how workload characteristics, context size, and model scale influence inference energy usage. We evaluate 25 open-weight LLMs on two workloads: repository-level next-line completion with varying context sizes on RepoBench, and fill-in-the-middle (FIM) code completion across Python, Java, and Rust on McEval. We analyze the influence of input tokens, output tokens, model size, and their interactions on energy consumption using correlation analysis and cluster-robust linear regression. Our findings show that the dominant drivers of energy consumption depend strongly on task structure. In RepoBench, energy consumption is primarily influenced by input context size and its interaction with model scale, whereas in McEval, output generation and its interaction with active parameter count dominate. Output generation is more energy-intensive per token than prompt processing. Across both benchmarks, smaller and heavily quantized models frequently achieve Pareto-optimal trade-offs, often providing accuracy comparable to larger FP16 models while consuming substantially less energy. Increasing model size or context length does not necessarily lead to proportionally better completion quality, while quantization can substantially improve energy efficiency with limited accuracy degradation. These findings support more energy-aware deployment strategies for sustainable AI-assisted software development.
• Abstract（参考訳）: コード補完は、ソフトウェア開発において、大規模言語モデル(LLM)の最も広く使われているアプリケーションの1つである。 オープンウェイト LLM は、プライバシの懸念もあって、ローカルにデプロイされたコード補完システムにますます採用されている。 LLMの精度が向上したにもかかわらず、推論のエネルギーコストは、特に大規模コンテキストのワークロードやプログラミング言語全体において未検討のままである。 本研究では,LLMに基づくコード補完における精度とエネルギー消費のトレードオフと,負荷特性,コンテキストサイズ,モデルスケールが推定エネルギー利用に与える影響について検討する。 RepoBench上のさまざまなコンテキストサイズを持つリポジトリレベルの次ライン補完,Python,Java,Rust上の中規模(FIM)コード補完,という2つのワークロードで25のオープンウェイト LLMを評価した。 相関分析とクラスタ・ロバスト線形回帰を用いて,入力トークン,出力トークン,モデルサイズ,およびそれらの相互作用がエネルギー消費に与える影響を解析した。 その結果,エネルギー消費の主要因はタスク構造に強く依存していることが示唆された。 RepoBenchでは、エネルギー消費は主に入力コンテキストサイズとモデルスケールとの相互作用に影響され、McEvalでは出力生成とアクティブパラメータ数との相互作用が支配的である。 アウトプット生成は、プロンプト処理よりもトークン当たりのエネルギー集約性が高い。 両方のベンチマークで、より小型で高量子化されたモデルはパレート最適トレードオフをしばしば達成し、より大きなFP16モデルに匹敵する精度を提供すると同時に、エネルギーをかなり少なく消費する。 モデルサイズや文脈長の増大は必ずしも完成度を比例的に向上させるわけではないが、量子化は精度の低下を抑えてエネルギー効率を大幅に向上させることができる。 これらの発見は、持続可能なAI支援ソフトウェア開発のための、よりエネルギーを意識したデプロイメント戦略を支援する。

関連論文リスト

• From Tokens to Watt-hours: Analytical Energy Estimation for LLM Inference on Modern GPUs [6.041312734387813]
  本報告では,NVIDIA H100級加速器の大規模言語モデル (LLM) 推定エネルギーを直接測定せずに推定するための,解析的,実験的に校正されたGPUレベルの手法を提案する。 提案手法は,FP16/BF16テンソルコア計算と高帯域幅メモリ動作のためのパラメータスケール変換器FLOP会計,メモリトラヒック係数,ハードウェア固有のエネルギー係数を組み合わせた。 この手法はさらに、総エネルギーを計算、パラメータアクセス、キー-値-キャッシュ書き込み、および注意-読み取りコンポーネントに分解し、モデルサイズ、コンテキスト長、生成トーケン数によるスケーリング動作を可能にする。
  論文  参考訳（メタデータ） (2026-07-29T07:50:55Z)
• Beyond Test-Time Compute Strategies: Advocating Energy-per-Token in LLM Inference [1.522424334864671]
  大規模言語モデル(LLM)は、様々なタスクにまたがる優れた性能を示すが、かなりのエネルギーと計算コストが伴う。 SLM(Small Language Models)は、単純なテキスト生成タスクに対して正確な応答を提供する。 これらの戦略は追加のエネルギーコストを導入し、エネルギー精度のトレードオフを生み出す。
  論文  参考訳（メタデータ） (2026-03-04T15:20:55Z)
• Towards Green AI: Decoding the Energy of LLM Inference in Software Development [46.879983975894135]
  AI支援ツールはソフトウェア開発にますます統合されているが、大きな言語モデル(LLM)に依存しているため、相当な計算とエネルギーコストが伴う。 モデルが入力を処理して内部表現を構築した(1)プリフィルと,(2)デコードで格納された状態を用いて出力トークンを生成する(2)プリフィルとを区別し,LCM推定エネルギー消費の位相レベル解析を行う。
  論文  参考訳（メタデータ） (2026-02-05T14:38:19Z)
• Understanding Efficiency: Quantization, Batching, and Serving Strategies in LLM Energy Use [4.513690948889834]
  大規模言語モデル(LLM)はますます本番環境に配備され、計算資源やエネルギー需要の負担をトレーニングから推論へとシフトさせるのに寄与している。 我々は,同じモデルにおけるエネルギー消費のオーダー・オブ・マグニチュードの違いを,Emphsystemレベルの設計選択がいかに引き起こすかを示す。 我々の発見は、よりグリーンなAIサービスのための位相認識エネルギープロファイリングとシステムレベルの最適化を動機付けている。
  論文  参考訳（メタデータ） (2026-01-29T22:16:25Z)
• Information Capacity: Evaluating the Efficiency of Large Language Models via Text Compression [53.39128997308138]
  テキスト圧縮性能に基づくモデル効率の指標である情報容量を導入する。 主流のオープンソースモデルに対する実証的な評価は、シリーズ内のさまざまなサイズのモデルが一貫した情報容量を示すことを示している。 情報容量の特徴的な特徴は、入力と出力の両方のトークン数に影響を与えるトークン化効率が組み込まれていることである。
  論文  参考訳（メタデータ） (2025-11-11T10:07:32Z)
• Sustainable LLM Inference for Edge AI: Evaluating Quantized LLMs for Energy Efficiency, Output Accuracy, and Inference Latency [6.306413686006502]
  我々はOllamaライブラリから28の量子化大言語モデル(LLM)を包括的に分析する。 我々は、複数の量子化レベルおよびタスクタイプにわたるエネルギー効率、推論性能、出力精度を評価する。 その結果,異なる量子化設定におけるエネルギー効率,推定速度,精度のトレードオフが明らかになった。
  論文  参考訳（メタデータ） (2025-04-04T11:29:30Z)
• GREEN-CODE: Learning to Optimize Energy Efficiency in LLM-based Code Generation [1.5749416770494706]
  本研究では,Large Language Models (LLM) におけるエネルギーを考慮したコード生成フレームワークを提案する。 我々は、正確性、レイテンシ、エネルギー消費のトレードオフのバランスをとることを学ぶ強化学習エージェント(RL)を訓練する。 その結果,コード生成作業における平均23～50パーセントのエネルギー消費を,精度に悪影響を及ぼすことなく削減できることが示唆された。
  論文  参考訳（メタデータ） (2025-01-19T10:44:03Z)
• MobiLlama: Towards Accurate and Lightweight Fully Transparent GPT [87.4910758026772]
  近年のLarge Language Models (LLM) 開発において,"Bigger the Better" が主流となっている。 本稿では、リソース制約のあるデバイスに対して、正確かつ効率的なSLM(Small Language Models)を設計する上での課題に対処し、"less is more"パラダイムについて考察する。
  論文  参考訳（メタデータ） (2024-02-26T18:59:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。