論文の概要: An Energy and Carbon Footprint Analysis of Distributed and Federated Learning

• arxiv url: http://arxiv.org/abs/2206.10380v1
• Date: Tue, 21 Jun 2022 13:28:49 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-22 15:32:50.082332
• Title: An Energy and Carbon Footprint Analysis of Distributed and Federated Learning
• Title（参考訳）: 分散・フェデレーション学習におけるエネルギー・炭素フットプリント分析
• Authors: Stefano Savazzi, Vittorio Rampa, Sanaz Kianoush, Mehdi Bennis
• Abstract要約: 古典的で中央集権的な人工知能(AI)手法では、生産者(センサー、マシン)からエネルギー空腹のデータセンターへデータを移動する必要がある。 このような高エネルギーコストを緩和する新たな代替手段は、デバイス間で学習タスクを効率的に分散またはフェデレートすることを提案している。 本稿では,分散学習におけるエネルギーおよび炭素フットプリントの分析のための新しい枠組みを提案する。
• 参考スコア（独自算出の注目度）: 42.37180749113699
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Classical and centralized Artificial Intelligence (AI) methods require moving data from producers (sensors, machines) to energy hungry data centers, raising environmental concerns due to computational and communication resource demands, while violating privacy. Emerging alternatives to mitigate such high energy costs propose to efficiently distribute, or federate, the learning tasks across devices, which are typically low-power. This paper proposes a novel framework for the analysis of energy and carbon footprints in distributed and federated learning (FL). The proposed framework quantifies both the energy footprints and the carbon equivalent emissions for vanilla FL methods and consensus-based fully decentralized approaches. We discuss optimal bounds and operational points that support green FL designs and underpin their sustainability assessment. Two case studies from emerging 5G industry verticals are analyzed: these quantify the environmental footprints of continual and reinforcement learning setups, where the training process is repeated periodically for continuous improvements. For all cases, sustainability of distributed learning relies on the fulfillment of specific requirements on communication efficiency and learner population size. Energy and test accuracy should be also traded off considering the model and the data footprints for the targeted industrial applications.
• Abstract（参考訳）: 古典的で集中型の人工知能(AI)手法では、プライバシを侵害しながら、生産者(センサー、マシン)からエネルギーを消費するデータセンターにデータを移動させ、計算および通信リソースの要求による環境上の懸念を高める必要がある。 このような高エネルギーコストを緩和する新たな代替手段は、通常低消費電力のデバイス間での学習タスクを効率的に分散またはフェデレートすることを提案している。 本稿では,分散・連合学習(FL)におけるエネルギー・炭素フットプリントの分析のための新しい枠組みを提案する。 提案フレームワークは,バニラFL法におけるエネルギーフットプリントと炭素等価エミッションと,コンセンサスに基づく完全分散アプローチの両方を定量化する。 グリーンFL設計を支援し,持続可能性評価の基盤となる最適境界点と運用点について論じる。 新たな5G産業の2つのケーススタディが分析され、継続的および強化学習施設の環境フットプリントを定量化し、継続的な改善のためにトレーニングプロセスが定期的に繰り返される。 すべてのケースにおいて、分散学習の持続性は、コミュニケーション効率と学習者人口サイズに関する特定の要件を満たすことに依存している。 ターゲットとする産業アプリケーションのためのモデルとデータフットプリントを考慮して、エネルギーとテストの精度もトレードオフすべきである。

関連論文リスト

• A Carbon Tracking Model for Federated Learning: Impact of Quantization and Sparsification [5.341266334051207]
  フェデレートラーニング(FL)手法は効率的なコミュニケーション技術を採用し、エッジデバイスに機械学習タスクを分散させる。 本稿では,FLシステムのエネルギーおよび炭素フットプリントへの影響をリアルタイムにモニタリングするためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-12T07:20:03Z)
• A Comparative Study of Machine Learning Algorithms for Anomaly Detection in Industrial Environments: Performance and Environmental Impact [62.997667081978825]
  本研究は,環境の持続可能性を考慮した高性能機械学習モデルの要求に応えることを目的としている。 Decision TreesやRandom Forestsといった従来の機械学習アルゴリズムは、堅牢な効率性とパフォーマンスを示している。 しかし, 資源消費の累積増加にもかかわらず, 最適化された構成で優れた結果が得られた。
  論文  参考訳（メタデータ） (2023-07-01T15:18:00Z)
• A Safe Genetic Algorithm Approach for Energy Efficient Federated Learning in Wireless Communication Networks [53.561797148529664]
  フェデレートラーニング(FL)は、従来の集中型アプローチとは対照的に、デバイスが協調的にモデルトレーニングを行う分散技術として登場した。 FLの既存の取り組みにもかかわらず、その環境影響は、無線ネットワークへの適用性に関するいくつかの重要な課題が特定されているため、まだ調査中である。 現在の研究は遺伝的アルゴリズム(GA)アプローチを提案しており、FLプロセス全体のエネルギー消費と不要な資源利用の両方を最小化することを目標としている。
  論文  参考訳（メタデータ） (2023-06-25T13:10:38Z)
• Green Federated Learning [7.003870178055125]
  Federated Learning(FL)は、分散エンティティのデータを使用して集中型モデルをトレーニングする機械学習技術である。 FLは、多様なエネルギー源を持つ数億ものグローバル分散エンドユーザーデバイスを活用することができる。 提案するグリーンFLの概念は, FLパラメータを最適化し, 二酸化炭素排出量を最小化するための設計選択を行うものである。
  論文  参考訳（メタデータ） (2023-03-26T02:23:38Z)
• Energy Efficiency of Training Neural Network Architectures: An Empirical Study [11.325530936177493]
  ディープラーニングモデルの評価は、伝統的に精度、F1スコア、関連する指標などの基準に焦点を当ててきた。 このようなモデルを訓練するために必要な計算は、大きな炭素フットプリントを必要とする。 本研究では, DLモデルアーキテクチャと環境影響との関係を, エネルギー消費の観点から検討した。
  論文  参考訳（メタデータ） (2023-02-02T09:20:54Z)
• FedTrees: A Novel Computation-Communication Efficient Federated Learning Framework Investigated in Smart Grids [8.437758224218648]
  次世代のスマートメーターは、エネルギー消費データの測定、記録、および報告に使用することができる。 FedTreesは、アンサンブル学習の際立った特徴の恩恵を受ける、新しくて軽量なFLフレームワークである。
  論文  参考訳（メタデータ） (2022-09-30T19:47:46Z)
• A Framework for Energy and Carbon Footprint Analysis of Distributed and Federated Edge Learning [48.63610479916003]
  本稿では,分散学習政策の環境フットプリントに影響を与える要因を概説し,分析する。 バニラとコンセンサスによって駆動される分散FLポリシーの両方をモデル化する。 その結果、flは低ビット/ジュール効率を特徴とするワイヤレスシステムにおいて、顕著なエンドツーエンドの省エネ(30%-40%)が可能となった。
  論文  参考訳（メタデータ） (2021-03-18T16:04:42Z)
• Multi-Agent Meta-Reinforcement Learning for Self-Powered and Sustainable Edge Computing Systems [87.4519172058185]
  エッジコンピューティング機能を有するセルフパワー無線ネットワークの効率的なエネルギー分配機構について検討した。 定式化問題を解くために,新しいマルチエージェントメタ強化学習(MAMRL)フレームワークを提案する。 実験の結果、提案されたMAMRLモデルは、再生不可能なエネルギー使用量を最大11%削減し、エネルギーコストを22.4%削減できることが示された。
  論文  参考訳（メタデータ） (2020-02-20T04:58:07Z)
• Towards the Systematic Reporting of the Energy and Carbon Footprints of Machine Learning [68.37641996188133]
  我々は、リアルタイムエネルギー消費と二酸化炭素排出量を追跡するための枠組みを導入する。 エネルギー効率のよい強化学習アルゴリズムのためのリーダーボードを作成します。 炭素排出量削減とエネルギー消費削減のための戦略を提案する。
  論文  参考訳（メタデータ） (2020-01-31T05:12:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。