論文の概要: Convergence Analysis and System Design for Federated Learning over Wireless Networks

• arxiv url: http://arxiv.org/abs/2105.00872v1
• Date: Fri, 30 Apr 2021 02:33:29 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-04 13:35:18.164616
• Title: Convergence Analysis and System Design for Federated Learning over Wireless Networks
• Title（参考訳）: 無線ネットワークを用いた連合学習のための収束解析とシステム設計
• Authors: Shuo Wan, Jiaxun Lu, Pingyi Fan, Yunfeng Shao, Chenghui Peng and Khaled B. letaief
• Abstract要約: フェデレートラーニング(FL)は、IoTにおいて重要かつ有望な学習スキームとして登場した。 FLトレーニングは、無線通信ネットワークに大きく影響される頻繁なモデル交換を必要とします。 本論文では,コミュニケーションネットワークとトレーニング設定の協調影響を考慮したFLトレーニングの収束率を解析する。
• 参考スコア（独自算出の注目度）: 16.978276697446724
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning (FL) has recently emerged as an important and promising learning scheme in IoT, enabling devices to jointly learn a model without sharing their raw data sets. However, as the training data in FL is not collected and stored centrally, FL training requires frequent model exchange, which is largely affected by the wireless communication network. Therein, limited bandwidth and random package loss restrict interactions in training. Meanwhile, the insufficient message synchronization among distributed clients could also affect FL convergence. In this paper, we analyze the convergence rate of FL training considering the joint impact of communication network and training settings. Further by considering the training costs in terms of time and power, the optimal scheduling problems for communication networks are formulated. The developed theoretical results can be used to assist the system parameter selections and explain the principle of how the wireless communication system could influence the distributed training process and network scheduling.
• Abstract（参考訳）: フェデレートラーニング(FL)は、IoTにおいて重要かつ有望な学習スキームとして最近登場し、デバイスが生データセットを共有することなく、共同でモデルを学習できるようにする。 しかし、FLのトレーニングデータは集中的に収集・保存されないため、FLトレーニングには頻繁なモデル交換が必要であり、無線通信ネットワークに大きく影響される。 制限された帯域幅とランダムなパッケージロスは、トレーニングにおけるインタラクションを制限する。 一方、分散クライアント間のメッセージ同期不足はFL収束に影響を与える可能性がある。 本稿では,通信ネットワークとトレーニング設定の協調的影響を考慮したFLトレーニングの収束率について分析する。 さらに、時間と電力の観点からのトレーニングコストを考慮し、通信ネットワークの最適スケジューリング問題を定式化する。 開発した理論結果は,システムのパラメータ選択を支援し,無線通信システムが分散トレーニングプロセスやネットワークスケジューリングにどのように影響を与えるのかを説明するのに利用できる。

関連論文リスト

• WHALE-FL: Wireless and Heterogeneity Aware Latency Efficient Federated Learning over Mobile Devices via Adaptive Subnetwork Scheduling [17.029433544096257]
  我々は,適応サブネットワークスケジューリングによるFLトレーニングを高速化するために,無線かつ認識可能な遅延効率FL(WHALE-FL)アプローチを開発した。 評価の結果,WHALE-FLはピアデザインと比較して,学習精度を犠牲にすることなく,FLトレーニングを効果的に加速することがわかった。
  論文  参考訳（メタデータ） (2024-05-01T22:01:40Z)
• Adaptive Model Pruning and Personalization for Federated Learning over Wireless Networks [72.59891661768177]
  フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。 これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。 このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
  論文  参考訳（メタデータ） (2023-09-04T21:10:45Z)
• FedDCT: A Dynamic Cross-Tier Federated Learning Scheme in Wireless Communication Networks [1.973745731206255]
  フェデレートラーニング(FL)は、クライアント間で、ローカルデータを公開せずにグローバルモデルのトレーニングを可能にする。 我々は、無線通信ネットワークにおけるトレーニング精度と性能を向上させるために、FedDCTと呼ばれる新しい動的クロス層FLスキームを提案する。
  論文  参考訳（メタデータ） (2023-07-10T08:54:07Z)
• Scheduling and Aggregation Design for Asynchronous Federated Learning over Wireless Networks [56.91063444859008]
  Federated Learning(FL)は、デバイス上でのトレーニングとサーバベースのアグリゲーションを組み合わせた、協調的な機械学習フレームワークである。 FLシステムにおけるストラグラー問題に対処するために,周期的アグリゲーションを用いた非同期FL設計を提案する。 年齢認識の集約重み付け設計は,非同期FL設定における学習性能を著しく向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-12-14T17:33:01Z)
• Performance Optimization for Variable Bitwidth Federated Learning in Wireless Networks [103.22651843174471]
  本稿では,モデル量子化による統合学習(FL)における無線通信と計算効率の向上について考察する。 提案したビット幅FL方式では,エッジデバイスは局所FLモデルパラメータの量子化バージョンを調整し,コーディネートサーバに送信し,それらを量子化されたグローバルモデルに集約し,デバイスを同期させる。 FLトレーニングプロセスはマルコフ決定プロセスとして記述でき、反復よりも行動選択を最適化するためのモデルベース強化学習(RL)手法を提案する。
  論文  参考訳（メタデータ） (2022-09-21T08:52:51Z)
• Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated Split Learning [56.125720497163684]
  無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。 ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
  論文  参考訳（メタデータ） (2022-09-02T10:29:56Z)
• CFLIT: Coexisting Federated Learning and Information Transfer [18.30671838758503]
  本研究では,モバイルエッジネットワークにおける無線放送と従来型情報伝達(IT)の共存性について検討する。 FLとITデバイスがOFDMシステムで無線スペクトルを共有するCFLIT(Commanded Learning and Information Transfer)通信フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-26T13:17:28Z)
• Federated Learning over Wireless IoT Networks with Optimized Communication and Resources [98.18365881575805]
  協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。 無線システム上での高速応答および高精度FLスキームの検証が重要である。 提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
  論文  参考訳（メタデータ） (2021-10-22T13:25:57Z)
• Delay Minimization for Federated Learning Over Wireless Communication Networks [172.42768672943365]
  無線通信ネットワーク上でのフェデレーション学習(FL)における遅延計算の問題について検討した。 最適解を得るために,二項探索アルゴリズムを提案する。 シミュレーションの結果,提案アルゴリズムは従来のFL法と比較して最大27.3%遅延を低減できることがわかった。
  論文  参考訳（メタデータ） (2020-07-05T19:00:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。