論文の概要: Federated Learning over Wireless IoT Networks with Optimized Communication and Resources

• arxiv url: http://arxiv.org/abs/2110.11775v1
• Date: Fri, 22 Oct 2021 13:25:57 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-25 15:56:42.214486
• Title: Federated Learning over Wireless IoT Networks with Optimized Communication and Resources
• Title（参考訳）: 通信とリソースを最適化した無線iotネットワークによる連合学習
• Authors: Hao Chen, Shaocheng Huang, Deyou Zhang, Ming Xiao, Mikael Skoglund, and H. Vincent Poor
• Abstract要約: 協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。 無線システム上での高速応答および高精度FLスキームの検証が重要である。 提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
• 参考スコア（独自算出の注目度）: 98.18365881575805
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To leverage massive distributed data and computation resources, machine learning in the network edge is considered to be a promising technique especially for large-scale model training. Federated learning (FL), as a paradigm of collaborative learning techniques, has obtained increasing research attention with the benefits of communication efficiency and improved data privacy. Due to the lossy communication channels and limited communication resources (e.g., bandwidth and power), it is of interest to investigate fast responding and accurate FL schemes over wireless systems. Hence, we investigate the problem of jointly optimized communication efficiency and resources for FL over wireless Internet of things (IoT) networks. To reduce complexity, we divide the overall optimization problem into two sub-problems, i.e., the client scheduling problem and the resource allocation problem. To reduce the communication costs for FL in wireless IoT networks, a new client scheduling policy is proposed by reusing stale local model parameters. To maximize successful information exchange over networks, a Lagrange multiplier method is first leveraged by decoupling variables including power variables, bandwidth variables and transmission indicators. Then a linear-search based power and bandwidth allocation method is developed. Given appropriate hyper-parameters, we show that the proposed communication-efficient federated learning (CEFL) framework converges at a strong linear rate. Through extensive experiments, it is revealed that the proposed CEFL framework substantially boosts both the communication efficiency and learning performance of both training loss and test accuracy for FL over wireless IoT networks compared to a basic FL approach with uniform resource allocation.
• Abstract（参考訳）: 大規模分散データと計算資源を活用するため,ネットワークエッジにおける機械学習は,特に大規模モデルトレーニングにおいて有望な手法であると考えられる。 協調学習技術のパラダイムとしてのフェデレーション学習(fl)は,コミュニケーション効率とデータプライバシの向上というメリットにより,研究の注目を集めている。 通信チャネルの損失と限られた通信資源(例えば帯域幅と電力)のため、無線システム上の高速応答と正確なflスキームを調査することが重要である。 そこで本研究では,無線モノのインターネット(IoT)ネットワーク上でFLの通信効率とリソースを協調的に最適化する問題について検討する。 複雑さを減らすために、全体的な最適化問題をクライアントスケジューリング問題とリソース割り当て問題という2つのサブ問題に分割する。 無線IoTネットワークにおけるFLの通信コストを低減するため、静的モデルパラメータを再利用して新しいクライアントスケジューリングポリシーを提案する。 ネットワーク上の情報交換を最大化するために、電力変数、帯域幅変数、伝送インジケータを含む変数を分離することにより、ラグランジュ乗算器法を最初に活用する。 次に,線形探索に基づく電力・帯域割り当て手法を開発した。 適切なハイパーパラメータを仮定すると,提案した通信効率向上型連合学習(CEFL)フレームワークは強い線形速度で収束することを示す。 提案するceflフレームワークは,無線iotネットワーク上での学習損失とテスト精度の両方の通信効率と学習性能を,一様リソース割り当てによる基本的なflアプローチと比較して大幅に向上することが明らかとなった。

関連論文リスト

• Overlay-based Decentralized Federated Learning in Bandwidth-limited Networks [3.9162099309900835]
  分散連合学習(DFL)は、中央集権的調整なしに分散エージェントを直接学習することで、人工知能(AI)の展開を促進するという約束を持っている。 既存のソリューションの多くは、隣接するエージェントが基盤となる通信ネットワークに物理的に隣接しているという単純な仮定に基づいている。 我々は,帯域幅制限ネットワークにおける通信要求と通信スケジュールを,基礎となるネットワークからの明示的な協力を必要とせず,共同で設計する。
  論文  参考訳（メタデータ） (2024-08-08T18:05:11Z)
• Towards Scalable Wireless Federated Learning: Challenges and Solutions [40.68297639420033]
  効果的な分散機械学習フレームワークとして、フェデレートラーニング(FL)が登場します。 本稿では,ネットワーク設計と資源オーケストレーションの両面から,スケーラブルな無線FLを実現する上での課題と解決策について論じる。
  論文  参考訳（メタデータ） (2023-10-08T08:55:03Z)
• Analysis and Optimization of Wireless Federated Learning with Data Heterogeneity [72.85248553787538]
  本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。 ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。 実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-08-04T04:18:01Z)
• Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated Split Learning [56.125720497163684]
  無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。 ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
  論文  参考訳（メタデータ） (2022-09-02T10:29:56Z)
• CFLIT: Coexisting Federated Learning and Information Transfer [18.30671838758503]
  本研究では,モバイルエッジネットワークにおける無線放送と従来型情報伝達(IT)の共存性について検討する。 FLとITデバイスがOFDMシステムで無線スペクトルを共有するCFLIT(Commanded Learning and Information Transfer)通信フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-26T13:17:28Z)
• Resource Allocation for Compression-aided Federated Learning with High Distortion Rate [3.7530276852356645]
  我々は、歪み率、参加IoTデバイス数、収束率の間の最適化支援FL問題を定式化する。 参加するIoTデバイスを積極的に制御することにより、通信効率を維持しながら圧縮支援FLのトレーニングばらつきを回避することができる。
  論文  参考訳（メタデータ） (2022-06-02T05:00:37Z)
• Convergence Analysis and System Design for Federated Learning over Wireless Networks [16.978276697446724]
  フェデレートラーニング(FL)は、IoTにおいて重要かつ有望な学習スキームとして登場した。 FLトレーニングは、無線通信ネットワークに大きく影響される頻繁なモデル交換を必要とします。 本論文では,コミュニケーションネットワークとトレーニング設定の協調影響を考慮したFLトレーニングの収束率を解析する。
  論文  参考訳（メタデータ） (2021-04-30T02:33:29Z)
• Communication-Efficient and Distributed Learning Over Wireless Networks: Principles and Applications [55.65768284748698]
  機械学習(ML)は、第5世代(5G)通信システムなどのための有望なイネーブルである。 本稿では、関連するコミュニケーションとMLの原則を概観し、選択したユースケースでコミュニケーション効率と分散学習フレームワークを提示することを目的とする。
  論文  参考訳（メタデータ） (2020-08-06T12:37:14Z)
• Delay Minimization for Federated Learning Over Wireless Communication Networks [172.42768672943365]
  無線通信ネットワーク上でのフェデレーション学習(FL)における遅延計算の問題について検討した。 最適解を得るために,二項探索アルゴリズムを提案する。 シミュレーションの結果,提案アルゴリズムは従来のFL法と比較して最大27.3%遅延を低減できることがわかった。
  論文  参考訳（メタデータ） (2020-07-05T19:00:07Z)
• Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G Networks [84.2155885234293]
  まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。 このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
  論文  参考訳（メタデータ） (2020-02-22T14:38:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。