論文の概要: Energy Minimization for Federated Asynchronous Learning on
Battery-Powered Mobile Devices via Application Co-running
- arxiv url: http://arxiv.org/abs/2204.13878v1
- Date: Fri, 29 Apr 2022 04:34:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-03 02:19:11.922596
- Title: Energy Minimization for Federated Asynchronous Learning on
Battery-Powered Mobile Devices via Application Co-running
- Title(参考訳): アプリケーション・コランニングによる電池駆動モバイルデバイス上でのフェデレーション非同期学習のためのエネルギー最小化
- Authors: Cong Wang, Bin Hu, Hongyi Wu
- Abstract要約: エネルギーは必須だが、大規模な連合システムでは忘れられることが多い。
本稿では,フェデレートトレーニングの非同期実行とアプリケーション協調実行を接続することで,オンライン最適化フレームワークの設計と実装を行う。
実験により、オンライン最適化フレームワークは、以前のスキームの3倍の収束速度で60%以上のエネルギーを節約できることが示された。
- 参考スコア(独自算出の注目度): 14.169614178617664
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Energy is an essential, but often forgotten aspect in large-scale federated
systems. As most of the research focuses on tackling computational and
statistical heterogeneity from the machine learning algorithms, the impact on
the mobile system still remains unclear. In this paper, we design and implement
an online optimization framework by connecting asynchronous execution of
federated training with application co-running to minimize energy consumption
on battery-powered mobile devices. From a series of experiments, we find that
co-running the training process in the background with foreground applications
gives the system a deep energy discount with negligible performance slowdown.
Based on these results, we first study an offline problem assuming all the
future occurrences of applications are available, and propose a dynamic
programming-based algorithm. Then we propose an online algorithm using the
Lyapunov framework to explore the solution space via the energy-staleness
trade-off. The extensive experiments demonstrate that the online optimization
framework can save over 60% energy with 3 times faster convergence speed
compared to the previous schemes.
- Abstract(参考訳): エネルギーは大規模連系システムにおいて必須であるがしばしば忘れられる側面である。
研究の大部分は、機械学習アルゴリズムから計算的および統計的不均一性に対処することに焦点を当てているが、モバイルシステムへの影響はまだ不明である。
本稿では,電力消費を最小限に抑えるために,協調学習の非同期実行とアプリケーション協調実行を連携させることにより,オンライン最適化フレームワークを設計・実装する。
一連の実験から,フォアグラウンドアプリケーションとバックグラウンドでのトレーニングプロセスの協調実行により,システムに無視可能な性能低下を伴う深いエネルギー割引が得られることがわかった。
これらの結果に基づいて,アプリケーションの将来的な発生を前提としたオフライン問題をまず検討し,動的プログラミングに基づくアルゴリズムを提案する。
次に,Lyapunovフレームワークを用いたオンラインアルゴリズムを提案し,エネルギー安定トレードオフによる解空間の探索を行う。
広範な実験により、オンライン最適化フレームワークは、以前のスキームに比べて3倍高速で60%以上のエネルギーを節約できることが示されている。
関連論文リスト
- Learning Iterative Reasoning through Energy Diffusion [90.24765095498392]
我々は,エネルギー拡散による反復的推論(IRED)を紹介した。
IREDは入力条件と所望の出力の間の制約を表現するためにエネルギー関数を学ぶ。
IREDは、連続空間推論、離散空間推論、計画タスクにおいて既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2024-06-17T03:36:47Z) - Center-Sensitive Kernel Optimization for Efficient On-Device Incremental Learning [88.78080749909665]
現在のオンデバイストレーニング手法は、破滅的な忘れを考慮せずに、効率的なトレーニングにのみ焦点をあてている。
本稿では,単純だが効果的なエッジフレンドリーなインクリメンタル学習フレームワークを提案する。
本手法は,メモリの削減と近似計算により,平均精度38.08%の高速化を実現する。
論文 参考訳(メタデータ) (2024-06-13T05:49:29Z) - Federated Learning With Energy Harvesting Devices: An MDP Framework [5.852486435612777]
フェデレートラーニング(FL)では、エッジデバイスがローカルトレーニングを実行し、パラメータサーバと情報を交換する必要がある。
実用FLシステムにおける重要な課題は、バッテリ限定エッジ装置の急激なエネルギー枯渇である。
FLシステムにエネルギー回収技術を適用し, エッジデバイスを連続的に駆動する環境エネルギーを抽出する。
論文 参考訳(メタデータ) (2024-05-17T03:41:40Z) - Energy Efficiency Maximization in IRS-Aided Cell-Free Massive MIMO
System [2.9081408997650375]
本稿では、入射点におけるビームフォーミングとIRSにおける位相シフトを共同最適化してエネルギー効率(EE)を最大化する、インテリジェント反射面(IRS)を用いたセルレス大規模マルチインプット多重出力システムについて考察する。
EE問題を解くために,2次変換とラグランジアン双対変換を用いて最適ビームフォーミングと位相シフトを求める反復最適化アルゴリズムを提案する。
さらに,共同ビームフォーミングと位相シフト設計のための深層学習に基づくアプローチを提案する。具体的には,教師なし学習方式を用いて2段階の深層ニューラルネットワークをオフラインでトレーニングし,オンラインに展開する。
論文 参考訳(メタデータ) (2022-12-24T14:58:15Z) - Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated
Split Learning [56.125720497163684]
無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。
ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
論文 参考訳(メタデータ) (2022-09-02T10:29:56Z) - Energy-Efficient Multi-Orchestrator Mobile Edge Learning [54.28419430315478]
Mobile Edge Learning(MEL)は、エッジデバイス上で機械学習(ML)モデルの分散トレーニングを特徴とする、協調学習パラダイムである。
MELでは、異なるデータセットで複数の学習タスクが共存する可能性がある。
本稿では, エネルギー消費, 精度, 解複雑性のトレードオフを容易にする軽量なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-02T07:37:10Z) - Dynamic Scheduling for Over-the-Air Federated Edge Learning with Energy
Constraints [44.311278843238675]
アナログ勾配アグリゲーションを用いた空対空FEELシステムについて検討する。
トレーニング性能を最適化するために,エネルギーを考慮した動的デバイススケジューリングアルゴリズムを提案する。
高度に不均衡なローカルデータ分布の下では、提案アルゴリズムは精度を4.9%向上させることができる。
論文 参考訳(メタデータ) (2021-05-31T08:55:02Z) - Reconfigurable Intelligent Surface Assisted Mobile Edge Computing with
Heterogeneous Learning Tasks [53.1636151439562]
モバイルエッジコンピューティング(MEC)は、AIアプリケーションに自然なプラットフォームを提供します。
再構成可能なインテリジェントサーフェス(RIS)の助けを借りて、MECで機械学習タスクを実行するインフラストラクチャを提示します。
具体的には,モバイルユーザの送信パワー,基地局のビームフォーミングベクトル,risの位相シフト行列を共同で最適化することにより,参加ユーザの学習誤差を最小化する。
論文 参考訳(メタデータ) (2020-12-25T07:08:50Z) - To Talk or to Work: Flexible Communication Compression for Energy
Efficient Federated Learning over Heterogeneous Mobile Edge Devices [78.38046945665538]
巨大なモバイルエッジデバイス上でのフェデレーション学習(FL)は、多数のインテリジェントなモバイルアプリケーションのための新たな地平を開く。
FLは、定期的なグローバル同期と継続的なローカルトレーニングにより、参加するデバイスに膨大な通信と計算負荷を課す。
フレキシブルな通信圧縮を可能にする収束保証FLアルゴリズムを開発。
論文 参考訳(メタデータ) (2020-12-22T02:54:18Z) - AutoScale: Optimizing Energy Efficiency of End-to-End Edge Inference
under Stochastic Variance [11.093360539563657]
AutoScaleは、カスタム設計の強化学習アルゴリズムに基づいて構築された、適応的で軽量な実行スケーリングエンジンである。
本稿では,エッジでの高精度かつエネルギー効率の高いディープラーニング推論を実現するためのAutoScaleを提案する。
論文 参考訳(メタデータ) (2020-05-06T00:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。