論文の概要: Evaluating the Communication Efficiency in Federated Learning Algorithms
- arxiv url: http://arxiv.org/abs/2004.02738v1
- Date: Mon, 6 Apr 2020 15:31:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-16 07:39:21.589443
- Title: Evaluating the Communication Efficiency in Federated Learning Algorithms
- Title（参考訳）: フェデレーション学習アルゴリズムにおけるコミュニケーション効率の評価
- Authors: Muhammad Asad, Ahmed Moustafa, Takayuki Ito and Muhammad Aslam
- Abstract要約: 近年,多くの国で新たなプライバシー法が制定され,フェデレートラーニング(FL)の概念が導入されている。
FLでは、モバイルユーザーは、プライバシーに敏感なデータを共有せずに、ローカルモデルを集約することでグローバルモデルを学ぶことができる。
これにより、FLを大規模に実装する際の通信コストの課題が提起される。
- 参考スコア（独自算出の注目度）: 3.713348568329249
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the era of advanced technologies, mobile devices are equipped with
computing and sensing capabilities that gather excessive amounts of data. These
amounts of data are suitable for training different learning models. Cooperated
with advancements in Deep Learning (DL), these learning models empower numerous
useful applications, e.g., image processing, speech recognition, healthcare,
vehicular network and many more. Traditionally, Machine Learning (ML)
approaches require data to be centralised in cloud-based data-centres. However,
this data is often large in quantity and privacy-sensitive which prevents
logging into these data-centres for training the learning models. In turn, this
results in critical issues of high latency and communication inefficiency.
Recently, in light of new privacy legislations in many countries, the concept
of Federated Learning (FL) has been introduced. In FL, mobile users are
empowered to learn a global model by aggregating their local models, without
sharing the privacy-sensitive data. Usually, these mobile users have slow
network connections to the data-centre where the global model is maintained.
Moreover, in a complex and large scale network, heterogeneous devices that have
various energy constraints are involved. This raises the challenge of
communication cost when implementing FL at large scale. To this end, in this
research, we begin with the fundamentals of FL, and then, we highlight the
recent FL algorithms and evaluate their communication efficiency with detailed
comparisons. Furthermore, we propose a set of solutions to alleviate the
existing FL problems both from communication perspective and privacy
perspective.
- Abstract（参考訳）: 先進技術の時代には、モバイルデバイスには過剰な量のデータを集めるコンピューティングとセンシング機能が備わっている。
これらの量のデータは、異なる学習モデルのトレーニングに適している。
ディープラーニング(DL)の進歩と協調して、これらの学習モデルは、画像処理、音声認識、医療、車載ネットワークなど、多くの有用な応用を可能にする。
従来、機械学習(ML)アプローチでは、データをクラウドベースのデータ中心に集中する必要がある。
しかし、このデータは量が多く、プライバシーに敏感であり、学習モデルのトレーニングのためにこれらのデータ中心にログインすることを防ぐ。
これにより、高いレイテンシと通信効率の重大な問題が発生する。
近年,多くの国で新たなプライバシー法が制定され,フェデレートラーニング(FL)の概念が導入されている。
flでは、モバイルユーザーはプライバシーに敏感なデータを共有せずに、ローカルモデルを集約することでグローバルモデルを学ぶことができる。
通常、これらのモバイルユーザーは、グローバルモデルを維持するデータ中心へのネットワーク接続が遅い。
さらに、複雑な大規模ネットワークでは、様々なエネルギー制約のある異種デバイスが関与している。
これにより、FLを大規模に実装する際の通信コストの課題が生じる。
この目的のために,本研究ではFLの基礎から始め,最近のFLアルゴリズムを強調し,その通信効率を詳細な比較で評価する。
さらに,通信の観点からもプライバシの観点からも,既存のFL問題を緩和するための一連のソリューションを提案する。
関連論文リスト
- Federated Learning for 6G: Paradigms, Taxonomy, Recent Advances and
Insights [52.024964564408]
本稿では,プロトコルスタックのすべてのレベルにわたってフェデレートラーニングを実装することの付加価値について検討する。
それは重要なFLアプリケーションを示し、ホットトピックに対処し、将来の研究と開発のための貴重な洞察と明示的なガイダンスを提供します。
我々の結論は、FLと将来の6Gの相乗効果を活用しつつ、FLがワイヤレス産業に革命をもたらす可能性を浮き彫りにすることを目的としています。
論文 参考訳（メタデータ） (2023-12-07T20:39:57Z) - Federated Learning: A Cutting-Edge Survey of the Latest Advancements and Applications [6.042202852003457]
Federated Learning(FL)は、堅牢な機械学習(ML)モデルを開発するためのテクニックである。
ユーザのプライバシを保護するため、FLでは、大量の生データや潜在的機密データを送信するのではなく、モデル更新を送信する必要がある。
このサーベイは、最新のFLアルゴリズムの包括的な分析と比較を提供する。
論文 参考訳（メタデータ） (2023-10-08T19:54:26Z) - Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。
マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
論文 参考訳（メタデータ） (2023-10-04T20:27:20Z) - Evaluation and comparison of federated learning algorithms for Human
Activity Recognition on smartphones [0.5039813366558306]
フェデレートラーニング(FL)は、ローカルデバイスの使用を促進する新しい機械学習パラダイムとして導入された。
本稿では,FedDistと呼ばれる新しいFLアルゴリズムを提案する。
その結果、FedDistが異種データに適応できることと、FLが非同期な状況に対処できることが示されている。
論文 参考訳（メタデータ） (2022-10-30T18:47:23Z) - Federated Learning and Meta Learning: Approaches, Applications, and
Directions [94.68423258028285]
本稿では,FL,メタラーニング,フェデレーションメタラーニング(FedMeta)について概観する。
他のチュートリアルと異なり、私たちの目標はFL、メタラーニング、FedMetaの方法論をどのように設計、最適化、進化させ、無線ネットワーク上で応用するかを探ることです。
論文 参考訳（メタデータ） (2022-10-24T10:59:29Z) - Edge-Native Intelligence for 6G Communications Driven by Federated
Learning: A Survey of Trends and Challenges [14.008159759350264]
FL(Federated Learning)と呼ばれる新しい技術は、無線ネットワークの端に機械学習をもたらすために生まれた。
FLは、データプライバシを損なうことなく汎用MLモデルを開発するために、参加するクライアントの分散データセットとコンピューティングリソースの両方を活用する。
本調査の目的は,鍵となる無線技術におけるFL応用の現状を概観することである。
論文 参考訳（メタデータ） (2021-11-14T17:13:34Z) - Mobility-Aware Cluster Federated Learning in Hierarchical Wireless
Networks [81.83990083088345]
我々は,無線ネットワークにおける階層型フェデレーション学習(HFL)アルゴリズムを特徴付ける理論モデルを開発した。
分析の結果,HFLの学習性能は,ハイモービル利用者の学習能力が著しく低下していることが判明した。
これらの問題を回避するため,我々はMACFLアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-08-20T10:46:58Z) - Federated Learning: A Signal Processing Perspective [144.63726413692876]
フェデレーションラーニングは、データを明示的に交換することなく、ローカルデータセットを保持する複数のエッジデバイスでモデルをトレーニングするための新しい機械学習パラダイムです。
本稿では、信号処理ツールを用いて扱うのが自然である主な課題をカプセル化し、強調する、連合学習のための統一的な体系的フレームワークを提供する。
論文 参考訳（メタデータ） (2021-03-31T15:14:39Z) - Wireless Communications for Collaborative Federated Learning [160.82696473996566]
IoT(Internet of Things)デバイスは、収集したデータを中央のコントローラに送信することができず、機械学習モデルをトレーニングすることができる。
GoogleのセミナルFLアルゴリズムでは、すべてのデバイスを中央コントローラに直接接続する必要がある。
本稿では,コラボレーティブFL(CFL)と呼ばれる新しいFLフレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-03T20:00:02Z) - Federated Learning for Resource-Constrained IoT Devices: Panoramas and
State-of-the-art [12.129978716326676]
我々は最近実装されたフェデレートラーニングの現実的な応用をいくつか紹介する。
大規模ネットワークでは、様々な計算資源を持つクライアントが存在するかもしれない。
FL領域における資源制約装置の今後の方向性を強調した。
論文 参考訳（メタデータ） (2020-02-25T01:03:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。