論文の概要: MLPerf Power: Benchmarking the Energy Efficiency of Machine Learning Systems from μWatts to MWatts for Sustainable AI

• arxiv url: http://arxiv.org/abs/2410.12032v1
• Date: Tue, 15 Oct 2024 20:06:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-17 13:40:42.710964
• Title: MLPerf Power: Benchmarking the Energy Efficiency of Machine Learning Systems from μWatts to MWatts for Sustainable AI
• Title（参考訳）: MLPerf Power: 持続可能なAIのためのμWattsからMWattsまでの機械学習システムのエネルギー効率のベンチマーク
• Authors: Arya Tschand, Arun Tejusve Raghunath Rajan, Sachin Idgunji, Anirban Ghosh, Jeremy Holleman, Csaba Kiraly, Pawan Ambalkar, Ritika Borkar, Ramesh Chukka, Trevor Cockrell, Oliver Curtis, Grigori Fursin, Miro Hodak, Hiwot Kassa, Anton Lokhmotov, Dejan Miskovic, Yuechao Pan, Manu Prasad Manmathan, Liz Raymond, Tom St. John, Arjun Suresh, Rowan Taubitz, Sean Zhan, Scott Wasson, David Kanter, Vijay Janapa Reddi,
• Abstract要約: 機械学習(ML)技術は、さまざまなシステムで電力消費が急増している。 本稿では,マイクロワットからメガワットまでの電力レベルでMLシステムのエネルギー効率を評価するための総合的なベンチマーク手法であるSerf Powerを紹介する。
• 参考スコア（独自算出の注目度）: 5.50579824344998
• License:
• Abstract: Rapid adoption of machine learning (ML) technologies has led to a surge in power consumption across diverse systems, from tiny IoT devices to massive datacenter clusters. Benchmarking the energy efficiency of these systems is crucial for optimization, but presents novel challenges due to the variety of hardware platforms, workload characteristics, and system-level interactions. This paper introduces MLPerf Power, a comprehensive benchmarking methodology with capabilities to evaluate the energy efficiency of ML systems at power levels ranging from microwatts to megawatts. Developed by a consortium of industry professionals from more than 20 organizations, MLPerf Power establishes rules and best practices to ensure comparability across diverse architectures. We use representative workloads from the MLPerf benchmark suite to collect 1,841 reproducible measurements from 60 systems across the entire range of ML deployment scales. Our analysis reveals trade-offs between performance, complexity, and energy efficiency across this wide range of systems, providing actionable insights for designing optimized ML solutions from the smallest edge devices to the largest cloud infrastructures. This work emphasizes the importance of energy efficiency as a key metric in the evaluation and comparison of the ML system, laying the foundation for future research in this critical area. We discuss the implications for developing sustainable AI solutions and standardizing energy efficiency benchmarking for ML systems.
• Abstract（参考訳）: 機械学習(ML)技術の急速な採用により、小さなIoTデバイスから大規模なデータセンタクラスタに至るまで、さまざまなシステムで電力消費が急増している。 これらのシステムのエネルギー効率のベンチマークは最適化に不可欠であるが、様々なハードウェアプラットフォーム、ワークロード特性、システムレベルの相互作用のために、新しい課題が提示される。 本稿では,マイクロワットからメガワットまでの電力レベルにおいて,MLシステムのエネルギー効率を評価するための総合的なベンチマーク手法であるMLPerf Powerを紹介する。 20以上の組織からなる業界プロフェッショナルのコンソーシアムによって開発されたMLPerf Powerは、さまざまなアーキテクチャ間の互換性を確保するためのルールとベストプラクティスを確立する。 MLPerfベンチマークスイートの代表的ワークロードを使用して、MLデプロイメントスケール全体にわたって、60のシステムから1,841の再現可能な測定値を収集します。 我々の分析は、この幅広いシステムにおけるパフォーマンス、複雑性、エネルギー効率のトレードオフを明らかにし、最小のエッジデバイスから最大のクラウドインフラストラクチャまで、最適化されたMLソリューションを設計するための実用的な洞察を提供する。 この研究は、MLシステムの評価と比較において、エネルギー効率の重要性を強調し、この重要な領域における将来の研究の基盤となる。 本稿では、持続可能なAIソリューションを開発し、MLシステムのエネルギー効率ベンチマークを標準化することの意味について論じる。

関連論文リスト

• MobileAIBench: Benchmarking LLMs and LMMs for On-Device Use Cases [81.70591346986582]
  モバイル端末上でのLarge Language Models(LLM)とLarge Multimodal Models(LMM)を評価するためのベンチマークフレームワークであるMobileAIBenchを紹介する。 MobileAIBenchは、さまざまなサイズ、量子化レベル、タスクにわたるモデルを評価し、実際のデバイス上でのレイテンシとリソース消費を測定する。
  論文  参考訳（メタデータ） (2024-06-12T22:58:12Z)
• Hybrid Heterogeneous Clusters Can Lower the Energy Consumption of LLM Inference Workloads [0.2389598109913753]
  大規模言語モデル(LLM)の訓練と使用には大量のエネルギーが必要である。 本稿では, LLM を運用するデータセンターにおけるエネルギー消費削減の課題に対処する。 本稿では,コストベースのスケジューリングフレームワークを用いて,ハードウェアアクセラレータ間でタスクを動的に割り当てるハイブリッドデータセンターモデルを提案する。
  論文  参考訳（メタデータ） (2024-04-25T11:24:08Z)
• Toward Cross-Layer Energy Optimizations in AI Systems [4.871463967255196]
  エネルギー効率は、人工知能の採用に歯止めをかける要因になる可能性が高い。 人工知能(AI)や機械学習(ML)ツールや技術の普及によって、そのエネルギー効率が採用への歯止め要因になりそうである。 これは、生成AI(GenAI)モデルが巨大なエネルギー豚であるからである。 推論はさらにエネルギーを消費する。
  論文  参考訳（メタデータ） (2024-04-10T01:35:17Z)
• Empowering Distributed Solutions in Renewable Energy Systems and Grid Optimization [3.8979646385036175]
  機械学習(ML)の進歩は再生可能エネルギー源の強化とグリッド管理の改善に重要な役割を果たしている。 ビッグデータとMLをスマートグリッドに組み込むことは、エネルギー効率の向上など、いくつかのメリットを提供する。 しかし、大規模なデータボリュームの処理、サイバーセキュリティの確保、専門知識の獲得といった課題に対処する必要がある。
  論文  参考訳（メタデータ） (2023-10-24T02:45:16Z)
• Multiagent Reinforcement Learning with an Attention Mechanism for Improving Energy Efficiency in LoRa Networks [52.96907334080273]
  ネットワーク規模が大きくなるにつれて、パケット衝突によるLoRaネットワークのエネルギー効率は急激に低下する。 マルチエージェント強化学習(MALoRa)に基づく伝送パラメータ割り当てアルゴリズムを提案する。 シミュレーションの結果,MALoRaはベースラインアルゴリズムと比較してシステムEEを著しく改善することがわかった。
  論文  参考訳（メタデータ） (2023-09-16T11:37:23Z)
• Towards an Efficient ML System: Unveiling a Trade-off between Task Accuracy and Engineering Efficiency in a Large-scale Car Sharing Platform [0.0]
  本稿では,実践者のドメインに存在する多数のデータセット,分類器,配布外検知器,予測テーブルを単一のMLに記述する,テキスト効率中心型MLシステムを提案する。 実世界のカーシェアリングプラットフォームにおける様々な画像認識タスクの下で、提案システムの構築と、この旅から学んだ教訓について検討した。
  論文  参考訳（メタデータ） (2022-10-10T15:40:50Z)
• MLPerfTM HPC: A Holistic Benchmark Suite for Scientific Machine Learning on HPC Systems [32.621917787044396]
  我々はMLCommonsTM Associationが推進する科学機械学習トレーニングアプリケーションのベンチマークスイートであるHPCを紹介する。 共同分析のための体系的なフレームワークを開発し、データステージング、アルゴリズム収束、計算性能の観点から比較する。 低レベルのメモリ、I/O、ネットワークの振る舞いに関して、各ベンチマークを特徴付けることで結論付ける。
  論文  参考訳（メタデータ） (2021-10-21T20:30:12Z)
• Energy-Efficient Multi-Orchestrator Mobile Edge Learning [54.28419430315478]
  Mobile Edge Learning(MEL)は、エッジデバイス上で機械学習(ML)モデルの分散トレーニングを特徴とする、協調学習パラダイムである。 MELでは、異なるデータセットで複数の学習タスクが共存する可能性がある。 本稿では, エネルギー消費, 精度, 解複雑性のトレードオフを容易にする軽量なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-09-02T07:37:10Z)
• Machine Learning Force Fields [54.48599172620472]
  機械学習(ML)は、計算化学の多くの進歩を可能にした。 最も有望な応用の1つは、MLベースの力場(FF)の構築である。 本稿では,ML-FFの応用と,それらから得られる化学的知見について概説する。
  論文  参考訳（メタデータ） (2020-10-14T13:14:14Z)
• Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable Edge Computing Systems [87.4519172058185]
  エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。 定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。 実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
  論文  参考訳（メタデータ） (2020-02-20T04:58:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。