論文の概要: Game-Theoretic Deep Reinforcement Learning to Minimize Carbon Emissions and Energy Costs for AI Inference Workloads in Geo-Distributed Data Centers
- arxiv url: http://arxiv.org/abs/2404.01459v1
- Date: Mon, 1 Apr 2024 20:13:28 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-03 20:37:09.846660
- Title: Game-Theoretic Deep Reinforcement Learning to Minimize Carbon Emissions and Energy Costs for AI Inference Workloads in Geo-Distributed Data Centers
- Title（参考訳）: 地理的分散データセンターにおけるAI推論ワークロードのCO_2排出とエネルギーコスト最小化のためのゲーム理論深層強化学習
- Authors: Ninad Hogade, Sudeep Pasricha,
- Abstract要約: この研究は、地理分散データセンターにおけるAI推論ワークロードの分散を最適化するために、ゲーム理論(GT)と深層強化学習(DRL)を組み合わせたユニークなアプローチを導入する。
提案手法は,非協調型ゲーム理論の原理をDRLフレームワークに統合し,データセンターが作業負荷配分に関するインテリジェントな決定を行えるようにする。
- 参考スコア（独自算出の注目度）: 3.3379026542599934
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Data centers are increasingly using more energy due to the rise in Artificial Intelligence (AI) workloads, which negatively impacts the environment and raises operational costs. Reducing operating expenses and carbon emissions while maintaining performance in data centers is a challenging problem. This work introduces a unique approach combining Game Theory (GT) and Deep Reinforcement Learning (DRL) for optimizing the distribution of AI inference workloads in geo-distributed data centers to reduce carbon emissions and cloud operating (energy + data transfer) costs. The proposed technique integrates the principles of non-cooperative Game Theory into a DRL framework, enabling data centers to make intelligent decisions regarding workload allocation while considering the heterogeneity of hardware resources, the dynamic nature of electricity prices, inter-data center data transfer costs, and carbon footprints. We conducted extensive experiments comparing our game-theoretic DRL (GT-DRL) approach with current DRL-based and other optimization techniques. The results demonstrate that our strategy outperforms the state-of-the-art in reducing carbon emissions and minimizing cloud operating costs without compromising computational performance. This work has significant implications for achieving sustainability and cost-efficiency in data centers handling AI inference workloads across diverse geographic locations.
- Abstract（参考訳）: データセンターは、環境に悪影響を及ぼし、運用コストを上昇させる人工知能(AI)ワークロードの増加により、ますますエネルギーを消費している。
データセンターのパフォーマンスを維持しながら、運用コストと二酸化炭素排出量を減らすことは、難しい問題です。
この研究は、地理分散データセンターにおけるAI推論ワークロードの分散を最適化するために、ゲーム理論(GT)とDeep Reinforcement Learning(DRL)を組み合わせたユニークなアプローチを導入し、二酸化炭素排出量とクラウド運用(エネルギー+データ転送)コストを削減する。
提案手法は,非協調型ゲーム理論の原理をDRLフレームワークに統合し,ハードウェア資源の不均一性,電力価格の動的性質,データセンタ間データ転送コスト,カーボンフットプリントを考慮した,ワークロード割り当てに関するインテリジェントな決定を可能にする。
ゲーム理論DRL(GT-DRL)と現在のDRLに基づく他の最適化手法との比較実験を行った。
その結果, 計算性能を損なうことなく, 二酸化炭素排出量の削減とクラウド運用コストの最小化において, 当社の戦略は現状よりも優れていた。
この研究は、さまざまな地理的場所にわたるAI推論ワークロードを処理するデータセンタにおいて、持続可能性とコスト効率を達成する上で、大きな意味を持つ。
関連論文リスト
- D5RL: Diverse Datasets for Data-Driven Deep Reinforcement Learning [99.33607114541861]
ロボット操作と移動環境の現実的なシミュレーションに焦点を当てたオフラインRLのための新しいベンチマークを提案する。
提案するベンチマークでは、状態ベースドメインと画像ベースドメインを対象とし、オフラインRLとオンライン微調整評価の両方をサポートしている。
論文 参考訳（メタデータ） (2024-08-15T22:27:00Z) - Beyond Efficiency: Scaling AI Sustainably [4.711003829305544]
現代のAIアプリケーションは、コンピューティングにおける需要を継続的に増加させてきた。
本稿では, ハードウェア製造における炭素排出量の具体化だけでなく, トレーニングおよび推論からのCO排出の操作を含む, AIの炭素影響を特徴付ける。
論文 参考訳（メタデータ） (2024-06-08T00:07:16Z) - Spatio-temporal load shifting for truly clean computing [0.5857582826810999]
本研究では、時間と場所の双方において、コンピュータジョブのシフトと関連する電力負荷の影響について検討する。
我々は,ロードブルティの情報利用に関連する3つの信号を分離した。
24/7 CFEのコストは1.29$pm$0.07 EUR/MWhに削減される。
論文 参考訳（メタデータ） (2024-03-26T13:36:42Z) - Hybrid Reinforcement Learning for Optimizing Pump Sustainability in
Real-World Water Distribution Networks [55.591662978280894]
本稿では,実世界の配水ネットワーク(WDN)のリアルタイム制御を強化するために,ポンプスケジューリング最適化問題に対処する。
我々の主な目的は、エネルギー消費と運用コストを削減しつつ、物理的な運用上の制約を遵守することである。
進化に基づくアルゴリズムや遺伝的アルゴリズムのような伝統的な最適化手法は、収束保証の欠如によってしばしば不足する。
論文 参考訳（メタデータ） (2023-10-13T21:26:16Z) - SHIELD: Sustainable Hybrid Evolutionary Learning Framework for Carbon,
Wastewater, and Energy-Aware Data Center Management [2.9699290794642366]
地理的分散データセンター(GDDC)は、環境に重大な影響を及ぼす。
本稿では,GDDCの二酸化炭素排出量,水排出量,エネルギーコストを最適化する新しい枠組みを提案する。
論文 参考訳（メタデータ） (2023-08-24T21:11:55Z) - Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A
Multi-Agent Reinforcement Learning Approach [48.18355658448509]
生成的人工知能の最近の進歩は、機械学習トレーニングの需要が急増し、エネルギー消費の大幅な増加によるコスト負担と環境問題を引き起こしている。
地理的に分散したクラウドデータセンタ間でのトレーニングジョブのスケジューリングは、安価で低炭素エネルギーのコンピューティング能力の使用を最適化する機会を浮き彫りにする。
本研究では,実生活におけるワークロードパターン,エネルギー価格,炭素強度を組み込んだクラウドシステムと対話することで,マルチエージェント強化学習とアクタクリティカルな手法に基づく最適協調スケジューリング戦略の学習アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-04-17T02:12:30Z) - Measuring the Carbon Intensity of AI in Cloud Instances [91.28501520271972]
我々は,ソフトウェアの炭素強度を測定するための枠組みを提供し,運転中の炭素排出量を測定することを提案する。
私たちは、Microsoft Azureクラウドコンピューティングプラットフォームにおける排出削減のための一連のアプローチを評価します。
論文 参考訳（メタデータ） (2022-06-10T17:04:04Z) - ANDREAS: Artificial intelligence traiNing scheDuler foR accElerAted
resource clusterS [1.798617052102518]
パフォーマンスを最大化し、データセンターの運用コストを最小限に抑える高度なスケジューリングソリューションであるANDREASを提案します。
実験の結果,第一原理法では平均で30～62%のコスト削減が可能であった。
論文 参考訳（メタデータ） (2021-05-11T14:36:19Z) - A Framework for Energy and Carbon Footprint Analysis of Distributed and
Federated Edge Learning [48.63610479916003]
本稿では,分散学習政策の環境フットプリントに影響を与える要因を概説し,分析する。
バニラとコンセンサスによって駆動される分散FLポリシーの両方をモデル化する。
その結果、flは低ビット/ジュール効率を特徴とするワイヤレスシステムにおいて、顕著なエンドツーエンドの省エネ(30%-40%)が可能となった。
論文 参考訳（メタデータ） (2021-03-18T16:04:42Z) - NeurOpt: Neural network based optimization for building energy
management and climate control [58.06411999767069]
モデル同定のコストを削減するために,ニューラルネットワークに基づくデータ駆動制御アルゴリズムを提案する。
イタリアにある10の独立したゾーンを持つ2階建ての建物で、学習と制御のアルゴリズムを検証する。
論文 参考訳（メタデータ） (2020-01-22T00:51:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。