論文の概要: FROST: Towards Energy-efficient AI-on-5G Platforms -- A GPU Power Capping Evaluation

• arxiv url: http://arxiv.org/abs/2310.11131v1
• Date: Tue, 17 Oct 2023 10:28:28 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-18 16:30:59.074406
• Title: FROST: Towards Energy-efficient AI-on-5G Platforms -- A GPU Power Capping Evaluation
• Title（参考訳）: FROST: エネルギー効率のよいAI-on-5Gプラットフォームを目指す - GPUパワーキャッピング評価
• Authors: Ioannis Mavromatis and Stefano De Feo and Pietro Carnelli and Robert J. Piechocki and Aftab Khan
• Abstract要約: Open Radio Access Network (O-RAN)は機械学習(ML)の統合による最適化の理想的なターゲットである FROST - オンライン・システム・チューニングを用いたフレキシブル・リコンフィグレーション(フレキシブル・リコンフィグレーション)手法を提案することで、この重要な側面に対処する。 FROSTは、MLパイプラインのエネルギー消費をプロファイリングし、それに応じてハードウェアを最適化し、パワードローを制限することができる。 以上の結果から,FROSTはモデルの精度を損なうことなく最大26.4%の省エネが可能であった。
• 参考スコア（独自算出の注目度）: 6.250006646141444
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The Open Radio Access Network (O-RAN) is a burgeoning market with projected growth in the upcoming years. RAN has the highest CAPEX impact on the network and, most importantly, consumes 73% of its total energy. That makes it an ideal target for optimisation through the integration of Machine Learning (ML). However, the energy consumption of ML is frequently overlooked in such ecosystems. Our work addresses this critical aspect by presenting FROST - Flexible Reconfiguration method with Online System Tuning - a solution for energy-aware ML pipelines that adhere to O-RAN's specifications and principles. FROST is capable of profiling the energy consumption of an ML pipeline and optimising the hardware accordingly, thereby limiting the power draw. Our findings indicate that FROST can achieve energy savings of up to 26.4% without compromising the model's accuracy or introducing significant time delays.
• Abstract（参考訳）: Open Radio Access Network (O-RAN) は急成長中の市場であり、今後の成長が見込まれている。 RANはCAPEXのネットワークへの影響が最も高く、最も重要なのは総エネルギーの73%を消費していることだ。 これにより、機械学習(ml)の統合による最適化の理想的なターゲットとなる。 しかし、このような生態系ではMLのエネルギー消費がしばしば見過ごされている。 私たちの研究は、O-RANの仕様と原則に準拠した、エネルギーを意識したMLパイプラインのためのソリューションであるOnline System Tuningを使ったFROSTFlexible Reconfigurationメソッドを提供することで、この重要な側面に対処しています。 FROSTは、MLパイプラインのエネルギー消費をプロファイリングし、それに応じてハードウェアを最適化し、パワードローを制限する。 以上の結果から,FROSTはモデルの精度を損なうことなく最大26.4%の省エネが可能であった。

関連論文リスト

• MLPerf Power: Benchmarking the Energy Efficiency of Machine Learning Systems from μWatts to MWatts for Sustainable AI [5.50579824344998]
  機械学習(ML)技術は、さまざまなシステムで電力消費が急増している。 本稿では,マイクロワットからメガワットまでの電力レベルでMLシステムのエネルギー効率を評価するための総合的なベンチマーク手法であるSerf Powerを紹介する。
  論文  参考訳（メタデータ） (2024-10-15T20:06:33Z)
• Federated Learning With Energy Harvesting Devices: An MDP Framework [5.852486435612777]
  フェデレートラーニング(FL)では、エッジデバイスがローカルトレーニングを実行し、パラメータサーバと情報を交換する必要がある。 実用FLシステムにおける重要な課題は、バッテリ限定エッジ装置の急激なエネルギー枯渇である。 FLシステムにエネルギー回収技術を適用し, エッジデバイスを連続的に駆動する環境エネルギーを抽出する。
  論文  参考訳（メタデータ） (2024-05-17T03:41:40Z)
• PolyThrottle: Energy-efficient Neural Network Inference on Edge Devices [10.01838504586422]
  ML駆動システムの連続運転は、推論中にかなりのエネルギー消費をもたらす。 本稿では,GPU,メモリ,CPU周波数などのデバイス上のハードウェア要素の構成が,通常の微調整によるNN推論のエネルギー消費に与える影響について検討する。 本稿では,Constrained Bayesian Optimization を用いて,各ハードウェアコンポーネント間の構成をエネルギー保存的に最適化するPolyThrottleを提案する。
  論文  参考訳（メタデータ） (2023-10-30T20:19:41Z)
• Multiagent Reinforcement Learning with an Attention Mechanism for Improving Energy Efficiency in LoRa Networks [52.96907334080273]
  ネットワーク規模が大きくなるにつれて、パケット衝突によるLoRaネットワークのエネルギー効率は急激に低下する。 マルチエージェント強化学習(MALoRa)に基づく伝送パラメータ割り当てアルゴリズムを提案する。 シミュレーションの結果,MALoRaはベースラインアルゴリズムと比較してシステムEEを著しく改善することがわかった。
  論文  参考訳（メタデータ） (2023-09-16T11:37:23Z)
• A Safe Genetic Algorithm Approach for Energy Efficient Federated Learning in Wireless Communication Networks [53.561797148529664]
  フェデレートラーニング(FL)は、従来の集中型アプローチとは対照的に、デバイスが協調的にモデルトレーニングを行う分散技術として登場した。 FLの既存の取り組みにもかかわらず、その環境影響は、無線ネットワークへの適用性に関するいくつかの重要な課題が特定されているため、まだ調査中である。 現在の研究は遺伝的アルゴリズム(GA)アプローチを提案しており、FLプロセス全体のエネルギー消費と不要な資源利用の両方を最小化することを目標としている。
  論文  参考訳（メタデータ） (2023-06-25T13:10:38Z)
• Sustainable Edge Intelligence Through Energy-Aware Early Exiting [0.726437825413781]
  EHエッジインテリジェンスシステムにおいて,エネルギー適応型動的早期退避を提案する。 提案手法は, サンプルごとの最適計算量を決定する, エネルギー対応のEEポリシーを導出する。 その結果, エネルギーに依存しない政策と比較して, 精度は25%, サービスレートは35%向上した。
  論文  参考訳（メタデータ） (2023-05-23T14:17:44Z)
• Distributed Energy Management and Demand Response in Smart Grids: A Multi-Agent Deep Reinforcement Learning Framework [53.97223237572147]
  本稿では、自律制御と再生可能エネルギー資源のスマート電力グリッドシステムへの統合のための多エージェント深層強化学習(DRL)フレームワークを提案する。 特に,提案フレームワークは,住宅利用者に対する需要応答 (DR) と分散エネルギー管理 (DEM) を共同で検討している。
  論文  参考訳（メタデータ） (2022-11-29T01:18:58Z)
• Deep Reinforcement Learning Based Multidimensional Resource Management for Energy Harvesting Cognitive NOMA Communications [64.1076645382049]
  エネルギー収穫(EH)、認知無線(CR)、非直交多重アクセス(NOMA)の組み合わせはエネルギー効率を向上させるための有望な解決策である。 本稿では,決定論的CR-NOMA IoTシステムにおけるスペクトル,エネルギー,時間資源管理について検討する。
  論文  参考訳（メタデータ） (2021-09-17T08:55:48Z)
• Memory-Aware Partitioning of Machine Learning Applications for Optimal Energy Use in Batteryless Systems [17.072240411944914]
  電池レスアプリケーションの総エネルギーコストを最適化する自動化手法であるJulinningを提案する。 本手法では, エネルギー負荷を0.12%に抑えながら, 必要なエネルギー貯蔵量を94%以上削減できる。
  論文  参考訳（メタデータ） (2021-08-05T09:49:42Z)
• Risk-Aware Energy Scheduling for Edge Computing with Microgrid: A Multi-Agent Deep Reinforcement Learning Approach [82.6692222294594]
  マイクログリッドを用いたMECネットワークにおけるリスク対応エネルギースケジューリング問題について検討する。 ニューラルネットワークを用いたマルチエージェントディープ強化学習(MADRL)に基づくアドバンテージアクター・クリティック(A3C)アルゴリズムを適用し,その解を導出する。
  論文  参考訳（メタデータ） (2020-02-21T02:14:38Z)
• Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable Edge Computing Systems [87.4519172058185]
  エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。 定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。 実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
  論文  参考訳（メタデータ） (2020-02-20T04:58:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。