論文の概要: From Federated to Fog Learning: Distributed Machine Learning over
Heterogeneous Wireless Networks
- arxiv url: http://arxiv.org/abs/2006.03594v3
- Date: Fri, 23 Oct 2020 14:42:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 07:57:33.000385
- Title: From Federated to Fog Learning: Distributed Machine Learning over
Heterogeneous Wireless Networks
- Title(参考訳): フェデレートからフォグラーニングへ:異種無線ネットワーク上での分散機械学習
- Authors: Seyyedali Hosseinalipour and Christopher G. Brinton and Vaneet
Aggarwal and Huaiyu Dai and Mung Chiang
- Abstract要約: フェデレートラーニング(Federated Learning)は、データを収集するノード間で処理能力を活用することによって、ネットワークエッジでMLモデルをトレーニングするテクニックとして登場した。
我々は、エッジデバイスからクラウドサーバへのノード連続体にMLモデルのトレーニングをインテリジェントに分散する、フォグラーニングと呼ばれる新しい学習パラダイムを提唱する。
- 参考スコア(独自算出の注目度): 71.23327876898816
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning (ML) tasks are becoming ubiquitous in today's network
applications. Federated learning has emerged recently as a technique for
training ML models at the network edge by leveraging processing capabilities
across the nodes that collect the data. There are several challenges with
employing conventional federated learning in contemporary networks, due to the
significant heterogeneity in compute and communication capabilities that exist
across devices. To address this, we advocate a new learning paradigm called fog
learning which will intelligently distribute ML model training across the
continuum of nodes from edge devices to cloud servers. Fog learning enhances
federated learning along three major dimensions: network, heterogeneity, and
proximity. It considers a multi-layer hybrid learning framework consisting of
heterogeneous devices with various proximities. It accounts for the topology
structures of the local networks among the heterogeneous nodes at each network
layer, orchestrating them for collaborative/cooperative learning through
device-to-device (D2D) communications. This migrates from star network
topologies used for parameter transfers in federated learning to more
distributed topologies at scale. We discuss several open research directions to
realizing fog learning.
- Abstract(参考訳): 今日のネットワークアプリケーションでは、機械学習(ML)タスクがユビキタスになりつつある。
フェデレートラーニングは、データを収集するノード間の処理能力を活用することで、ネットワークエッジでMLモデルをトレーニングするテクニックとして最近登場した。
デバイス間に存在する計算能力と通信能力の著しい異質性のため、現代のネットワークで従来のフェデレーション学習を採用するにはいくつかの課題がある。
そこで我々は,エッジデバイスからクラウドサーバへのノード連続体にMLモデルのトレーニングをインテリジェントに分散する,フォグラーニングと呼ばれる新たな学習パラダイムを提案する。
フォグ学習は、ネットワーク、異質性、近接という3つの主要な次元に沿って連合学習を強化する。
様々な近性を持つ異種デバイスからなる多層ハイブリッド学習フレームワークを検討する。
各ネットワーク層におけるヘテロジニアスノード間のローカルネットワークのトポロジ構造を考慮し,デバイス間通信(d2d)による協調的・協調的学習を組織化する。
これにより、フェデレーション学習でパラメータ転送に使用されるスターネットワークトポロジから、大規模でより分散したトポロジへと移行する。
霧学習を実現するためのオープン研究の方向性について考察する。
関連論文リスト
- Towards Cooperative Federated Learning over Heterogeneous Edge/Fog
Networks [49.19502459827366]
フェデレートラーニング(FL)は、エッジ/フォグネットワーク上で機械学習(ML)モデルをトレーニングするための一般的なテクニックとして推奨されている。
FLの従来の実装は、ネットワーク間協力の可能性を大きく無視してきた。
我々は,デバイス・ツー・デバイス(D2D)とデバイス・ツー・サーバ(D2S)インタラクションに基づいて構築された協調的エッジ/フォグMLパラダイムである協調的連合学習(CFL)を提唱する。
論文 参考訳(メタデータ) (2023-03-15T04:41:36Z) - UAV-Aided Decentralized Learning over Mesh Networks [23.612400109629544]
分散学習は、デバイス間通信(D2D)のみに依存する機械学習(ML)モデルを協調的にトレーニングする、無線ネットワークデバイスに権限を与える。
実世界のメッシュネットワークのローカル接続は、無線ノードの通信範囲が限られており、分散学習プロトコルの効率を損なう。
本論文は,UAVトラジェクトリを最適化し,ユーザグループ間のインテリジェンスを伝達するために,UAVが逐次訪問する一連の経路ポイントとして定義する。
論文 参考訳(メタデータ) (2022-03-02T10:39:40Z) - Parallel Successive Learning for Dynamic Distributed Model Training over
Heterogeneous Wireless Networks [50.68446003616802]
フェデレートラーニング(Federated Learning, FedL)は、一連の無線デバイスにモデルトレーニングを配布する一般的なテクニックとして登場した。
我々は,FedLアーキテクチャを3次元に拡張した並列逐次学習(PSL)を開発した。
我々の分析は、分散機械学習におけるコールド対ウォームアップモデルの概念とモデル慣性について光を当てている。
論文 参考訳(メタデータ) (2022-02-07T05:11:01Z) - Distributed Learning in Wireless Networks: Recent Progress and Future
Challenges [170.35951727508225]
次世代のワイヤレスネットワークは、エッジデバイスが収集するさまざまな種類のデータを分析する多くの機械学習ツールやアプリケーションを可能にする。
エッジデバイスが生データ交換なしでMLモデルを協調的にトレーニングできるようにする手段として,分散学習と推論技術が提案されている。
本稿では,ワイヤレスエッジネットワーク上で分散学習を効率的に効果的に展開する方法を包括的に研究する。
論文 参考訳(メタデータ) (2021-04-05T20:57:56Z) - Multi-Stage Hybrid Federated Learning over Large-Scale D2D-Enabled Fog
Networks [61.30171206892684]
ネットワークを多層クラスタベース構造とみなす階層内モデル学習と層間モデル学習のハイブリッドを開発する。
MH-FLは、デバイス間通信(D2D)を介して形成されたローカルネットワークを含む、クラスタ内のノード間のトポロジー構造を考察している。
異なるネットワーク層におけるデバイスを協調的/協調的にオーケストレーションし、モデルパラメータの局所的なコンセンサスを形成する。
論文 参考訳(メタデータ) (2020-07-18T20:03:07Z) - Distributed Learning on Heterogeneous Resource-Constrained Devices [3.6187468775839373]
我々は、ローエンドからハイエンドまで多種多様なデバイスからなる分散システムを考える。
このような異種システムにおける分散学習を実現するための最初のアプローチを提案する。
このアプローチを適用すると、各デバイスは、その能力に適合するトポロジを備えたニューラルネットワーク(NN)を使用するが、これらのNNの一部は、同じトポロジを共有して、それらのパラメータを共同で学習することができる。
論文 参考訳(メタデータ) (2020-06-09T16:58:49Z) - Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G
Networks [84.2155885234293]
まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。
このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-02-22T14:38:11Z) - Federated Learning with Cooperating Devices: A Consensus Approach for
Massive IoT Networks [8.456633924613456]
分散システムにおける機械学習モデルをトレーニングするための新しいパラダイムとして、フェデレートラーニング(FL)が登場している。
提案するFLアルゴリズムは,ネットワーク内のデータ操作を行うデバイスとの協調を利用して,完全に分散された(あるいはサーバレス)学習手法を提案する。
このアプローチは、分散接続とコンピューティングを特徴とするネットワークを超えて、5G 内で FL を統合するための基盤となる。
論文 参考訳(メタデータ) (2019-12-27T15:16:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。