論文の概要: On the Impact of Device and Behavioral Heterogeneity in Federated
Learning
- arxiv url: http://arxiv.org/abs/2102.07500v1
- Date: Mon, 15 Feb 2021 12:04:38 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-16 15:13:29.451399
- Title: On the Impact of Device and Behavioral Heterogeneity in Federated
Learning
- Title(参考訳): フェデレーション学習におけるデバイスと行動不均一性の影響について
- Authors: Ahmed M. Abdelmoniem and Chen-Yu Ho and Pantelis Papageorgiou and
Muhammad Bilal and Marco Canini
- Abstract要約: フェデレーション学習(fl)は、非信頼エンティティが所有する分散プライベートデータセット上での協調学習のための一般的なパラダイムになりつつある。
本稿では,多くの異種データセット,デバイス,ネットワーク上でのトレーニングを行う課題について述べる。
5つのFLベンチマークで1.5Kのユニークな構成にまたがる経験的研究を行った。
- 参考スコア(独自算出の注目度): 5.038980064083677
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) is becoming a popular paradigm for collaborative
learning over distributed, private datasets owned by non-trusting entities. FL
has seen successful deployment in production environments, and it has been
adopted in services such as virtual keyboards, auto-completion, item
recommendation, and several IoT applications. However, FL comes with the
challenge of performing training over largely heterogeneous datasets, devices,
and networks that are out of the control of the centralized FL server.
Motivated by this inherent setting, we make a first step towards characterizing
the impact of device and behavioral heterogeneity on the trained model. We
conduct an extensive empirical study spanning close to 1.5K unique
configurations on five popular FL benchmarks. Our analysis shows that these
sources of heterogeneity have a major impact on both model performance and
fairness, thus sheds light on the importance of considering heterogeneity in FL
system design.
- Abstract(参考訳): フェデレーション学習(fl)は、非信頼エンティティが所有する分散プライベートデータセット上での協調学習のための一般的なパラダイムになりつつある。
FLは実運用環境での展開に成功しており、仮想キーボード、自動補完、アイテムレコメンデーション、いくつかのIoTアプリケーションなどのサービスで採用されています。
しかし、FL は集中型 FL サーバーの制御外にある、主に不均一なデータセット、デバイス、ネットワーク上でトレーニングを実行するという課題に直面しています。
この固有の設定に動機づけられて、我々は訓練されたモデルに対するデバイスおよび行動不均一性の影響を特徴付けるための第一歩を踏み出します。
5つのFLベンチマークで1.5Kのユニークな構成にまたがる広範な実証的研究を行った。
これらの不均質性源はモデル性能と公平性の両方に大きく影響し、FLシステム設計における不均質性を考慮することの重要性に光を当てている。
関連論文リスト
- Federated Learning for Predictive Maintenance and Quality Inspection in
Industrial Applications [0.36855408155998204]
フェデレーション・ラーニング(FL)は、複数の参加者がデータのプライバシと機密性を損なうことなく、機械学習モデルを開発することを可能にする。
FLアグリゲーション法の性能評価を行い,それらを中央および局所的な訓練手法と比較した。
実世界の品質検査環境から新しいフェデレーション学習データセットを導入する。
論文 参考訳(メタデータ) (2023-04-21T16:11:09Z) - FS-Real: Towards Real-World Cross-Device Federated Learning [60.91678132132229]
Federated Learning (FL)は、ローカルデータをアップロードすることなく、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。
FL研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とそのスケールによって引き起こされている。
本稿では,実世界横断デバイスFL,FS-Realのための効率的でスケーラブルなプロトタイピングシステムを提案する。
論文 参考訳(メタデータ) (2023-03-23T15:37:17Z) - Towards Cooperative Federated Learning over Heterogeneous Edge/Fog
Networks [49.19502459827366]
フェデレートラーニング(FL)は、エッジ/フォグネットワーク上で機械学習(ML)モデルをトレーニングするための一般的なテクニックとして推奨されている。
FLの従来の実装は、ネットワーク間協力の可能性を大きく無視してきた。
我々は,デバイス・ツー・デバイス(D2D)とデバイス・ツー・サーバ(D2S)インタラクションに基づいて構築された協調的エッジ/フォグMLパラダイムである協調的連合学習(CFL)を提唱する。
論文 参考訳(メタデータ) (2023-03-15T04:41:36Z) - Efficient Split-Mix Federated Learning for On-Demand and In-Situ
Customization [107.72786199113183]
フェデレートラーニング(FL)は、複数の参加者が生データを共有せずに学習をコラボレーションするための分散ラーニングフレームワークを提供する。
本稿では, モデルサイズとロバスト性をその場でカスタマイズできる, 不均一な参加者のための新しいスプリット・ミクス・FL戦略を提案する。
論文 参考訳(メタデータ) (2022-03-18T04:58:34Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [118.27470037607846]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z) - FLAME: Federated Learning Across Multi-device Environments [9.810211000961647]
Federated Learning (FL)は、マシンラーニングモデルの分散トレーニングを可能にし、ユーザデバイス上の個人情報をプライベートに保持する。
ユーザ中心のFLAME学習手法であるFLAMEを提案する。
その結果,FLAMEはF-1スコアが4.8~33.8%,エネルギー効率が1.02~2.86倍,収束速度が2.02倍に向上した。
論文 参考訳(メタデータ) (2022-02-17T22:23:56Z) - Federated Ensemble Model-based Reinforcement Learning in Edge Computing [21.840086997141498]
フェデレートラーニング(Federated Learning、FL)は、プライバシ保護のための分散機械学習パラダイムである。
モデルベースRLとアンサンブル知識蒸留をFLに効果的に組み込む新しいFRLアルゴリズムを提案する。
具体的には、FLと知識蒸留を利用して、クライアント向けの動的モデルのアンサンブルを作成し、環境と相互作用することなく、単にアンサンブルモデルを使用することでポリシーを訓練する。
論文 参考訳(メタデータ) (2021-09-12T16:19:10Z) - Mobility-Aware Cluster Federated Learning in Hierarchical Wireless
Networks [81.83990083088345]
我々は,無線ネットワークにおける階層型フェデレーション学習(HFL)アルゴリズムを特徴付ける理論モデルを開発した。
分析の結果,HFLの学習性能は,ハイモービル利用者の学習能力が著しく低下していることが判明した。
これらの問題を回避するため,我々はMACFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-08-20T10:46:58Z) - Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。
また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文 参考訳(メタデータ) (2020-12-01T11:46:03Z) - Characterizing Impacts of Heterogeneity in Federated Learning upon
Large-Scale Smartphone Data [23.67491703843822]
フェデレーテッド・ラーニング(FL)は、新しいプライバシー保護機械学習パラダイムであり、アカデミックや業界で大きな注目を集めている。
FLのユニークな特徴は異質性であり、様々なハードウェア仕様と、参加するデバイス全体の動的状態に存在する。
我々は、異種および異種な設定下での最先端のFLアルゴリズムの性能を比較するために、広範囲な実験を行った。
論文 参考訳(メタデータ) (2020-06-12T07:49:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。