論文の概要: Communication-Efficient Zero-Order and First-Order Federated Learning Methods over Wireless Networks

• arxiv url: http://arxiv.org/abs/2508.08013v1
• Date: Mon, 11 Aug 2025 14:16:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-12 21:23:29.13761
• Title: Communication-Efficient Zero-Order and First-Order Federated Learning Methods over Wireless Networks
• Title（参考訳）: 無線ネットワーク上での通信効率の良いゼロオーダーとファーストオーダーのフェデレーション学習手法
• Authors: Mohamad Assaad, Zeinab Nehme, Merouane Debbah,
• Abstract要約: Federated Learning (FL)は、エッジデバイスがローカルデータを共有せずに、協調的にMLモデルをトレーニングすることを可能にする。 FLは、トレーニングフェーズにおいて、デバイスとアグリゲータの間で大量の情報を交換する必要があるため、重大な課題に直面します。 2つの通信効率の高いFL法は、長いベクトルの代わりにスカラー値を通信することで通信オーバーヘッドを低減できると考えられる。
• 参考スコア（独自算出の注目度）: 14.744958242029721
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated Learning (FL) is an emerging learning framework that enables edge devices to collaboratively train ML models without sharing their local data. FL faces, however, a significant challenge due to the high amount of information that must be exchanged between the devices and the aggregator in the training phase, which can exceed the limited capacity of wireless systems. In this paper, two communication-efficient FL methods are considered where communication overhead is reduced by communicating scalar values instead of long vectors and by allowing high number of users to send information simultaneously. The first approach employs a zero-order optimization technique with two-point gradient estimator, while the second involves a first-order gradient computation strategy. The novelty lies in leveraging channel information in the learning algorithms, eliminating hence the need for additional resources to acquire channel state information (CSI) and to remove its impact, as well as in considering asynchronous devices. We provide a rigorous analytical framework for the two methods, deriving convergence guarantees and establishing appropriate performance bounds.
• Abstract（参考訳）: Federated Learning(FL)は、エッジデバイスがローカルデータを共有せずに、協調的にMLモデルをトレーニングすることを可能にする、新たな学習フレームワークである。 しかし、FLは、無線システムの限られた容量を超えることができるトレーニングフェーズにおいて、デバイスとアグリゲータの間で交換しなければならない大量の情報のために、大きな課題に直面している。 本稿では,2つの通信効率の高いFL方式について,長いベクトルの代わりにスカラー値を通信することで通信オーバーヘッドを低減し,多数のユーザが同時に情報を送信できるようにすることにより検討する。 第1のアプローチでは2点勾配推定器を用いたゼロ階最適化手法を採用し,第2のアプローチでは1階勾配計算方式を用いる。 この斬新さは、学習アルゴリズムにおけるチャネル情報を活用することにあるため、チャネル状態情報(CSI)を取得し、その影響を排除し、非同期デバイスを検討する必要がなくなる。 コンバージェンス保証の導出と適切な性能バウンダリの確立という,2つの手法の厳密な分析フレームワークを提供する。

関連論文リスト

• Communication-Efficient Hybrid Federated Learning for E-health with Horizontal and Vertical Data Partitioning [67.49221252724229]
  E-Healthは、スマートデバイスや医療機関が患者のデータを共同で収集することを可能にする。 eヘルスにフェデレートされた学習を適用することは、多くの課題に直面します。 医療データは水平および垂直に分割される。 HFLとVFLの単純な組み合わせには、訓練効率の低下、難聴収束分析、パラメータチューニング戦略の欠如など、制限がある。
  論文  参考訳（メタデータ） (2024-04-15T19:45:07Z)
• Rendering Wireless Environments Useful for Gradient Estimators: A Zero-Order Stochastic Federated Learning Method [14.986031916712108]
  クロスデバイスフェデレーション学習(FL)は成長する機械学習フレームワークであり、複数のエッジデバイスが協力して、生データを公開せずにモデルをトレーニングする。 学習アルゴリズム自体において、その影響を解析する代わりに、無線チャネルを利用する方法を示す。
  論文  参考訳（メタデータ） (2024-01-30T21:46:09Z)
• Coordination-free Decentralised Federated Learning on Complex Networks: Overcoming Heterogeneity [2.6849848612544]
  Federated Learning(FL)は、エッジコンピューティングシナリオで学習タスクを実行するためのフレームワークである。 本稿では,コミュニケーション効率のよい分散フェデレート学習(DFL)アルゴリズムを提案する。 我々のソリューションは、デバイスが直接隣人とのみ通信し、正確なモデルを訓練することを可能にする。
  論文  参考訳（メタデータ） (2023-12-07T18:24:19Z)
• Semi-Federated Learning: Convergence Analysis and Optimization of A Hybrid Learning Framework [70.83511997272457]
  本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。 我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
  論文  参考訳（メタデータ） (2023-10-04T03:32:39Z)
• Over-the-Air Federated Learning via Second-Order Optimization [37.594140209854906]
  フェデレートラーニング(FL)は、無線ネットワーク上でのタスク指向のデータトラフィックを、限られた無線リソースによって引き起こす可能性がある。 本稿では,通信ラウンドを同時に削減し,低レイテンシなグローバルモデルアグリゲーションを実現するために,空対2次フェデレーション最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-29T12:39:23Z)
• Federated Learning over Wireless IoT Networks with Optimized Communication and Resources [98.18365881575805]
  協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。 無線システム上での高速応答および高精度FLスキームの検証が重要である。 提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
  論文  参考訳（メタデータ） (2021-10-22T13:25:57Z)
• CosSGD: Nonlinear Quantization for Communication-efficient Federated Learning [62.65937719264881]
  フェデレーション学習は、これらのクライアントのローカルデータを中央サーバに転送することなく、クライアント間での学習を促進する。 圧縮勾配降下のための非線形量子化を提案し、フェデレーションラーニングで容易に利用することができる。 本システムは,訓練過程の収束と精度を維持しつつ,通信コストを最大3桁まで削減する。
  論文  参考訳（メタデータ） (2020-12-15T12:20:28Z)
• Towards Accurate Knowledge Transfer via Target-awareness Representation Disentanglement [56.40587594647692]
  本稿では,TRED(Target-Awareness Representation Disentanglement)の概念を取り入れた新しいトランスファー学習アルゴリズムを提案する。 TREDは、対象のタスクに関する関連する知識を元のソースモデルから切り離し、ターゲットモデルを微調整する際、レギュレータとして使用する。 各種実世界のデータセットを用いた実験により,本手法は標準微調整を平均2%以上安定的に改善することが示された。
  論文  参考訳（メタデータ） (2020-10-16T17:45:08Z)
• A Compressive Sensing Approach for Federated Learning over Massive MIMO Communication Systems [82.2513703281725]
  フェデレートラーニング(Federated Learning)は、無線デバイスとのコラボレーションによって、中央サーバでグローバルモデルをトレーニングするための、プライバシ保護のアプローチである。 本稿では,大規模マルチインプット多出力通信システム上でのフェデレーション学習のための圧縮センシング手法を提案する。
  論文  参考訳（メタデータ） (2020-03-18T05:56:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。