論文の概要: Accelerating Federated Learning over Reliability-Agnostic Clients in
Mobile Edge Computing Systems
- arxiv url: http://arxiv.org/abs/2007.14374v3
- Date: Fri, 23 Apr 2021 10:01:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-06 03:19:07.219683
- Title: Accelerating Federated Learning over Reliability-Agnostic Clients in
Mobile Edge Computing Systems
- Title（参考訳）: モバイルエッジコンピューティングシステムにおける信頼性非依存クライアントによる連合学習の促進
- Authors: Wentai Wu, Ligang He, Weiwei Lin, Rui Mao
- Abstract要約: フェデレーション学習は、AIアプリケーションを促進するための、将来性のあるプライバシ保護アプローチとして登場した。
MECアーキテクチャと統合された場合、FLの効率性と効率を最適化することは依然として大きな課題である。
本稿では,MECアーキテクチャのために,HybridFLと呼ばれる多層フェデレート学習プロトコルを設計する。
- 参考スコア（独自算出の注目度）: 15.923599062148135
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Mobile Edge Computing (MEC), which incorporates the Cloud, edge nodes and end
devices, has shown great potential in bringing data processing closer to the
data sources. Meanwhile, Federated learning (FL) has emerged as a promising
privacy-preserving approach to facilitating AI applications. However, it
remains a big challenge to optimize the efficiency and effectiveness of FL when
it is integrated with the MEC architecture. Moreover, the unreliable nature
(e.g., stragglers and intermittent drop-out) of end devices significantly slows
down the FL process and affects the global model's quality Xin such
circumstances. In this paper, a multi-layer federated learning protocol called
HybridFL is designed for the MEC architecture. HybridFL adopts two levels (the
edge level and the cloud level) of model aggregation enacting different
aggregation strategies. Moreover, in order to mitigate stragglers and end
device drop-out, we introduce regional slack factors into the stage of client
selection performed at the edge nodes using a probabilistic approach without
identifying or probing the state of end devices (whose reliability is
agnostic). We demonstrate the effectiveness of our method in modulating the
proportion of clients selected and present the convergence analysis for our
protocol. We have conducted extensive experiments with machine learning tasks
in different scales of MEC system. The results show that HybridFL improves the
FL training process significantly in terms of shortening the federated round
length, speeding up the global model's convergence (by up to 12X) and reducing
end device energy consumption (by up to 58%).
- Abstract（参考訳）: クラウド、エッジノード、エンドデバイスを組み込んだモバイルエッジコンピューティング(MEC)は、データ処理をデータソースに近づける大きな可能性を示している。
一方、連合学習(federated learning、fl)は、aiアプリケーションを促進するためのプライバシ保護アプローチとして浮上している。
しかし、MECアーキテクチャと統合された場合、FLの効率性と効率を最適化することは依然として大きな課題である。
さらに、エンドデバイスの信頼性の低い性質(例えばストラグラーや断続的なドロップアウト)は、flプロセスを大幅に遅くし、そのような状況下でグローバルモデルのクオリティxに影響を与える。
本稿では,MECアーキテクチャのために,HybridFLと呼ばれる多層フェデレート学習プロトコルを設計する。
HybridFLは、異なるアグリゲーション戦略を実行するモデルアグリゲーションの2つのレベル(エッジレベルとクラウドレベル)を採用する。
さらに、ストレグラーの緩和とエンドデバイスドロップアウトのために、エンドデバイスの状態(信頼性が不明な場合)を特定することなしに、確率論的アプローチを用いてエッジノードで実行されるクライアント選択の段階に、地域スラック要素を導入する。
本稿では,選択したクライアントの割合を変調する手法の有効性を示し,本プロトコルの収束解析を行う。
mecシステムの様々なスケールで機械学習タスクを広範囲に実験してきた。
その結果、HybridFLは、フェデレートされたラウンド長の短縮、グローバルモデルの収束(最大12倍)の高速化、エンドデバイスエネルギー消費の削減(最大58%)において、FLトレーニングプロセスを大幅に改善することを示した。
関連論文リスト
- Heterogeneity-Aware Resource Allocation and Topology Design for Hierarchical Federated Edge Learning [9.900317349372383]
Federated Learning (FL)は、モバイルデバイス上で機械学習モデルをトレーニングするためのプライバシー保護フレームワークを提供する。
従来のFLアルゴリズム、例えばFedAvgはこれらのデバイスに重い通信負荷を課す。
エッジデバイスをエッジサーバに接続し,エッジサーバをピアツーピア(P2P)エッジバックホールを介して相互接続する2層HFELシステムを提案する。
我々の目標は、戦略的資源配分とトポロジ設計により、HFELシステムの訓練効率を向上させることである。
論文 参考訳（メタデータ） (2024-09-29T01:48:04Z) - Agglomerative Federated Learning: Empowering Larger Model Training via End-Edge-Cloud Collaboration [10.90126132493769]
Agglomerative Federated Learning (FedAgg)は、EECCを利用した新しいFLフレームワークである。
FedAggは最先端の手法を平均4.53%の精度で上回り、収束率を著しく改善している。
論文 参考訳（メタデータ） (2023-12-01T06:18:45Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳（メタデータ） (2023-10-04T03:32:39Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳（メタデータ） (2023-09-04T21:10:45Z) - Automated Federated Learning in Mobile Edge Networks -- Fast Adaptation
and Convergence [83.58839320635956]
フェデレートラーニング(FL)は、モバイルエッジネットワークで機械学習モデルを分散的にトレーニングするために使用することができる。
最近のFLは、モデルに依存しないメタラーニング(MAML)フレームワークで解釈されている。
本稿は,MAMLがFLにもたらすメリットと,モバイルエッジネットワーク上でのメリットの最大化について論じる。
論文 参考訳（メタデータ） (2023-03-23T02:42:10Z) - Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。
FEIシステムは異種通信と計算資源分布を示す。
本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
論文 参考訳（メタデータ） (2023-01-26T08:13:22Z) - AnycostFL: Efficient On-Demand Federated Learning over Heterogeneous
Edge Devices [20.52519915112099]
我々はAny CostFLというコスト調整可能なFLフレームワークを提案し、多様なエッジデバイスがローカル更新を効率的に実行できるようにする。
実験結果から,我々の学習フレームワークは,適切なグローバルテスト精度を実現するために,トレーニング遅延とエネルギー消費の最大1.9倍の削減が可能であることが示唆された。
論文 参考訳（メタデータ） (2023-01-08T15:25:55Z) - Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。
デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。
本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
論文 参考訳（メタデータ） (2022-09-01T03:27:33Z) - Multi-Edge Server-Assisted Dynamic Federated Learning with an Optimized
Floating Aggregation Point [51.47520726446029]
協調エッジ学習(CE-FL)は、分散機械学習アーキテクチャである。
CE-FLの過程をモデル化し,分析訓練を行った。
実世界のテストベッドから収集したデータを用いて,本フレームワークの有効性を示す。
論文 参考訳（メタデータ） (2022-03-26T00:41:57Z) - Reconfigurable Intelligent Surface Enabled Federated Learning: A Unified
Communication-Learning Design Approach [30.1988598440727]
我々は,デバイス選択,無線トランシーバ設計,RIS構成を協調的に最適化する統一的なコミュニケーション学習最適化問題を開発した。
数値実験により,提案手法は最先端の手法と比較して,学習精度が大幅に向上することが示された。
論文 参考訳（メタデータ） (2020-11-20T08:54:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。