論文の概要: Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable
Edge Computing Systems
- arxiv url: http://arxiv.org/abs/2002.08567v3
- Date: Wed, 10 Feb 2021 02:47:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 07:15:56.495526
- Title: Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable
Edge Computing Systems
- Title(参考訳): セルフパワー・サステナブルエッジコンピューティングシステムのためのマルチエージェントメタ強化学習
- Authors: Md. Shirajum Munir, Nguyen H. Tran, Walid Saad, Choong Seon Hong
- Abstract要約: エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。
定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。
実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
- 参考スコア(独自算出の注目度): 87.4519172058185
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The stringent requirements of mobile edge computing (MEC) applications and
functions fathom the high capacity and dense deployment of MEC hosts to the
upcoming wireless networks. However, operating such high capacity MEC hosts can
significantly increase energy consumption. Thus, a base station (BS) unit can
act as a self-powered BS. In this paper, an effective energy dispatch mechanism
for self-powered wireless networks with edge computing capabilities is studied.
First, a two-stage linear stochastic programming problem is formulated with the
goal of minimizing the total energy consumption cost of the system while
fulfilling the energy demand. Second, a semi-distributed data-driven solution
is proposed by developing a novel multi-agent meta-reinforcement learning
(MAMRL) framework to solve the formulated problem. In particular, each BS plays
the role of a local agent that explores a Markovian behavior for both energy
consumption and generation while each BS transfers time-varying features to a
meta-agent. Sequentially, the meta-agent optimizes (i.e., exploits) the energy
dispatch decision by accepting only the observations from each local agent with
its own state information. Meanwhile, each BS agent estimates its own energy
dispatch policy by applying the learned parameters from meta-agent. Finally,
the proposed MAMRL framework is benchmarked by analyzing deterministic,
asymmetric, and stochastic environments in terms of non-renewable energy
usages, energy cost, and accuracy. Experimental results show that the proposed
MAMRL model can reduce up to 11% non-renewable energy usage and by 22.4% the
energy cost (with 95.8% prediction accuracy), compared to other baseline
methods.
- Abstract(参考訳): 移動エッジコンピューティング(MEC)のアプリケーションと機能の厳密な要件は、MECホストを今後の無線ネットワークに高容量かつ高密度に展開することである。
しかし、そのような高容量MECホストの運用はエネルギー消費を大幅に増加させることができる。
これにより、基地局(BS)ユニットは自力BSとして機能することができる。
本稿では,エッジコンピューティング機能を有する自律型無線ネットワークにおける効率的なエネルギー分配機構について検討する。
まず、エネルギー需要を満たしながらシステムの総エネルギー消費コストを最小化することを目的として、2段階の線形確率プログラミング問題を定式化する。
第2に、定式化問題を解くために、新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを開発することにより、半分散データ駆動ソリューションを提案する。
特に、各BSはエネルギー消費と生成の両方においてマルコフの挙動を探索する局所エージェントの役割を担い、各BSは時間変化の特徴をメタエージェントに伝達する。
メタエージェントは、各ローカルエージェントからの観測のみを自身の状態情報で受け入れることで、エネルギーディスパッチ決定を最適化(すなわち、利用)する。
一方、各BSエージェントはメタエージェントから学習したパラメータを適用して、独自のエネルギー供給ポリシーを推定する。
最後に、提案したMAMRLフレームワークは、非再生可能エネルギー使用量、エネルギーコスト、精度の観点から決定論的、非対称、確率的環境を分析してベンチマークを行う。
実験の結果、mamrlモデルは再生不能エネルギー使用量を最大11%削減し、エネルギーコスト(95.8%の予測精度)を他のベースライン法と比較して22.4%削減できることがわかった。
関連論文リスト
- Multiagent Reinforcement Learning with an Attention Mechanism for
Improving Energy Efficiency in LoRa Networks [52.96907334080273]
ネットワーク規模が大きくなるにつれて、パケット衝突によるLoRaネットワークのエネルギー効率は急激に低下する。
マルチエージェント強化学習(MALoRa)に基づく伝送パラメータ割り当てアルゴリズムを提案する。
シミュレーションの結果,MALoRaはベースラインアルゴリズムと比較してシステムEEを著しく改善することがわかった。
論文 参考訳(メタデータ) (2023-09-16T11:37:23Z) - Collaborative Optimization of Multi-microgrids System with Shared Energy
Storage Based on Multi-agent Stochastic Game and Reinforcement Learning [8.511196076836592]
提案されたMMGシステムフレームワークは、メイングリッドのエネルギー変動を24時間で1746.5kW削減し、テストで16.21%のコスト削減を実現する。
提案アルゴリズムの高速収束速度と優れた最適化性能により,提案アルゴリズムの優位性を検証した。
論文 参考訳(メタデータ) (2023-06-19T07:55:41Z) - Federated Multi-Agent Deep Reinforcement Learning Approach via
Physics-Informed Reward for Multi-Microgrid Energy Management [34.18923657108073]
本稿では,物理インフォームド報酬を用いたF-MADRLアルゴリズムを提案する。
このアルゴリズムでは、F-MADRLアルゴリズムをトレーニングするためにフェデレート学習機構を導入し、データのプライバシとセキュリティを確保する。
オークリッジ国立研究所の分散エネルギー制御通信実験室(ORNL-MG)で実験を行った。
論文 参考訳(メタデータ) (2022-12-29T08:35:11Z) - Deep Reinforcement Learning Based Multidimensional Resource Management
for Energy Harvesting Cognitive NOMA Communications [64.1076645382049]
エネルギー収穫(EH)、認知無線(CR)、非直交多重アクセス(NOMA)の組み合わせはエネルギー効率を向上させるための有望な解決策である。
本稿では,決定論的CR-NOMA IoTシステムにおけるスペクトル,エネルギー,時間資源管理について検討する。
論文 参考訳(メタデータ) (2021-09-17T08:55:48Z) - Energy-Efficient and Federated Meta-Learning via Projected Stochastic
Gradient Ascent [79.58680275615752]
エネルギー効率のよいメタラーニングフレームワークを提案する。
各タスクは別々のエージェントによって所有されていると仮定するため、メタモデルをトレーニングするために限られたタスクが使用される。
論文 参考訳(メタデータ) (2021-05-31T08:15:44Z) - Demand-Side Scheduling Based on Multi-Agent Deep Actor-Critic Learning
for Smart Grids [56.35173057183362]
家庭用家電をネットでスケジュールできるスマートメーターが各家庭に備わっている需要側エネルギー管理の問題点を考察する。
目標は、リアルタイムの料金体系の下で全体のコストを最小化することです。
マルコフゲームとしてスマートグリッド環境の定式化を提案する。
論文 参考訳(メタデータ) (2020-05-05T07:32:40Z) - Risk-Aware Energy Scheduling for Edge Computing with Microgrid: A
Multi-Agent Deep Reinforcement Learning Approach [82.6692222294594]
マイクログリッドを用いたMECネットワークにおけるリスク対応エネルギースケジューリング問題について検討する。
ニューラルネットワークを用いたマルチエージェントディープ強化学習(MADRL)に基づくアドバンテージアクター・クリティック(A3C)アルゴリズムを適用し,その解を導出する。
論文 参考訳(メタデータ) (2020-02-21T02:14:38Z) - Dynamic Energy Dispatch Based on Deep Reinforcement Learning in
IoT-Driven Smart Isolated Microgrids [8.623472323825556]
マイクログリッド(MG)は、大きなユーティリティグリッドとは独立して動作可能な小型でローカルな電力グリッドである。
本稿では、IoT駆動型スマートアイソレーションMGのための深部強化学習(DRL)に基づくエネルギーディスパッチに焦点を当てる。
2つの新しいDRLアルゴリズムが提案され、完全観測可能な状態情報とともに、かつ、不要なエネルギー供給ポリシーを導出する。
論文 参考訳(メタデータ) (2020-02-07T01:44:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。