論文の概要: Large Language Models for Energy-Efficient Code: Emerging Results and Future Directions

• arxiv url: http://arxiv.org/abs/2410.09241v1
• Date: Fri, 11 Oct 2024 20:35:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-30 15:33:30.169224
• Title: Large Language Models for Energy-Efficient Code: Emerging Results and Future Directions
• Title（参考訳）: エネルギー効率の良いコードのための大規模言語モデル:新たな結果と今後の方向性
• Authors: Huiyun Peng, Arjun Gupte, Nicholas John Eliopoulos, Chien Chou Ho, Rishi Mantri, Leo Deng, Wenxin Jiang, Yung-Hsiang Lu, Konstantin Läufer, George K. Thiruvathukal, James C. Davis,
• Abstract要約: エネルギー効率向上のための符号として,大規模言語モデル (LLM) の新たな適用法を提案する。 我々はプロトタイプを記述し評価し、我々のシステムでは、コンパイラの最適化だけで最大2倍のエネルギー効率を向上できる6つの小さなプログラムを探索した。
• 参考スコア（独自算出の注目度）: 2.848398051763324
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Energy-efficient software helps improve mobile device experiences and reduce the carbon footprint of data centers. However, energy goals are often de-prioritized in order to meet other requirements. We take inspiration from recent work exploring the use of large language models (LLMs) for different software engineering activities. We propose a novel application of LLMs: as code optimizers for energy efficiency. We describe and evaluate a prototype, finding that over 6 small programs our system can improve energy efficiency in 3 of them, up to 2x better than compiler optimizations alone. From our experience, we identify some of the challenges of energy-efficient LLM code optimization and propose a research agenda.
• Abstract（参考訳）: エネルギー効率の良いソフトウェアは、モバイルデバイスのエクスペリエンスを改善し、データセンターの二酸化炭素排出量を減らすのに役立つ。 しかし、エネルギーの目標は、他の要件を満たすためにしばしば非優先順位化される。 私たちは、さまざまなソフトウェアエンジニアリング活動に大規模な言語モデル(LLM)を使用することを探求する最近の研究から着想を得ています。 エネルギー効率向上のためのコードオプティマイザとして, LLM の新たな応用を提案する。 我々はプロトタイプを記述し評価し、我々のシステムでは、コンパイラの最適化だけで最大2倍のエネルギー効率を向上できる6つの小さなプログラムを探索した。 我々の経験から、エネルギー効率のよいLLM符号最適化の課題をいくつか特定し、研究課題を提案する。

関連論文リスト

• AI-Powered, But Power-Hungry? Energy Efficiency of LLM-Generated Code [45.77395425799378]
  本稿では,Python,Java,C++の3つのプログラミング言語に対して,LLM生成コードのエネルギー効率と性能を初めて解析する。 結果から,C++ コードよりも Python と Java の生成に成功していることがわかった。
  論文  参考訳（メタデータ） (2025-02-04T15:32:34Z)
• Advancing Generative Artificial Intelligence and Large Language Models for Demand Side Management with Internet of Electric Vehicles [52.43886862287498]
  本稿では,大規模言語モデル(LLM)のエネルギー管理への統合について検討する。 本稿では、自動問題定式化、コード生成、カスタマイズ最適化のために、LLMを検索拡張生成で強化する革新的なソリューションを提案する。 本稿では,電気自動車の充電スケジューリングと最適化における提案手法の有効性を示すケーススタディを提案する。
  論文  参考訳（メタデータ） (2025-01-26T14:31:03Z)
• Prompt engineering and its implications on the energy consumption of Large Language Models [4.791072577881446]
  ソフトウェア工学における大規模言語モデル(LLM)は、計算資源、データセンター、二酸化炭素排出に関する深刻な問題を引き起こす。 本稿では,コード生成タスクにおけるLlama 3モデルの炭素排出に及ぼすPETの影響について検討する。
  論文  参考訳（メタデータ） (2025-01-10T11:49:31Z)
• Energy consumption of code small language models serving with runtime engines and execution providers [11.998900897003997]
  小言語モデル(SLM)は、リソース要求を減らすための有望なソリューションを提供する。 私たちのゴールは、ディープラーニングエンジンと実行プロバイダがエネルギー消費、実行時間、コンピューティング-リソース利用に与える影響を分析することです。
  論文  参考訳（メタデータ） (2024-12-19T22:44:02Z)
• SuperCode: Sustainability PER AI-driven CO-DEsign [0.0]
  本稿では,ChatGPTのような大規模言語モデルを用いた汎用AI駆動型協調設計手法を提案する。 本稿では,2つの電波天文学的応用を用いて,サステナビリティを重要な性能指標として評価する方法について述べる。
  論文  参考訳（メタデータ） (2024-12-11T15:54:33Z)
• Can Large-Language Models Help us Better Understand and Teach the Development of Energy-Efficient Software? [2.8812501020074968]
  エネルギー効率のよいソフトウェア工学の技術は、しばしば学部のカリキュラムから欠落している。 本稿では,エネルギー効率のよいソフトウェアのための学習用モジュールの開発について提案する。
  論文  参考訳（メタデータ） (2024-10-30T01:09:32Z)
• Optima: Optimizing Effectiveness and Efficiency for LLM-Based Multi-Agent System [75.25394449773052]
  大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は協調的問題解決において顕著な可能性を示している。 通信効率の低下、スケーラビリティの低下、効果的なパラメータ更新方法の欠如などです。 本稿では,コミュニケーション効率とタスク効率を両立させ,これらの課題に対処する新しいフレームワークOptimaを提案する。
  論文  参考訳（メタデータ） (2024-10-10T17:00:06Z)
• Towards Coarse-to-Fine Evaluation of Inference Efficiency for Large Language Models [95.96734086126469]
  大規模言語モデル(LLM)は、ユーザが仕事を達成するのを助けるアシスタントとして機能し、高度なアプリケーションの開発をサポートする。 LLMの幅広い応用にとって、推論効率は重要な問題であり、既存の研究で広く研究されている。 各種コードライブラリの推論性能の粗大な解析を行う。
  論文  参考訳（メタデータ） (2024-04-17T15:57:50Z)
• LLM-Assisted Code Cleaning For Training Accurate Code Generators [53.087019724256606]
  コードの品質を調査した結果,より構造化され,読みやすくなれば,コード生成性能が向上することがわかった。 私たちは、これらの原則を使って既存のプログラムを変換する、新しいデータクリーニングパイプラインを構築します。 提案手法を2つのアルゴリズムコード生成ベンチマークで評価した結果,微調整のCodeLLaMa-7Bでは,元のデータセットの微調整に比べて最大30%性能が向上していることがわかった。
  論文  参考訳（メタデータ） (2023-11-25T02:45:50Z)
• Effective Pre-Training Objectives for Transformer-based Autoencoders [97.99741848756302]
  トランスフォーマーエンコーダの効率,コスト,精度のトレードオフについて検討する。 共通の目的の機能を組み合わせて、新しい効果的な事前学習アプローチを作成します。
  論文  参考訳（メタデータ） (2022-10-24T18:39:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。