論文の概要: Federated Learning with Integrated Sensing, Communication, and Computation: Frameworks and Performance Analysis
- arxiv url: http://arxiv.org/abs/2409.11240v1
- Date: Tue, 17 Sep 2024 14:42:49 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-18 16:25:29.015504
- Title: Federated Learning with Integrated Sensing, Communication, and Computation: Frameworks and Performance Analysis
- Title(参考訳): 統合センシング,コミュニケーション,計算によるフェデレーション学習:フレームワークとパフォーマンス分析
- Authors: Yipeng Liang, Qimei Chen, Hao Jiang,
- Abstract要約: FL-I SCCフレームワークについて検討し,FedAVG-I SCCとFedSGD-I SCCの両方を実装した。
I SCCフレームワークがFLの遅延とエネルギー消費を減少させる可能性について実験的に実証した。
- 参考スコア(独自算出の注目度): 7.520838651666091
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the emergence of integrated sensing, communication, and computation (ISCC) in the upcoming 6G era, federated learning with ISCC (FL-ISCC), integrating sample collection, local training, and parameter exchange and aggregation, has garnered increasing interest for enhancing training efficiency. Currently, FL-ISCC primarily includes two algorithms: FedAVG-ISCC and FedSGD-ISCC. However, the theoretical understanding of the performance and advantages of these algorithms remains limited. To address this gap, we investigate a general FL-ISCC framework, implementing both FedAVG-ISCC and FedSGD-ISCC. We experimentally demonstrate the substantial potential of the ISCC framework in reducing latency and energy consumption in FL. Furthermore, we provide a theoretical analysis and comparison. The results reveal that:1) Both sample collection and communication errors negatively impact algorithm performance, highlighting the need for careful design to optimize FL-ISCC applications. 2) FedAVG-ISCC performs better than FedSGD-ISCC under IID data due to its advantage with multiple local updates. 3) FedSGD-ISCC is more robust than FedAVG-ISCC under non-IID data, where the multiple local updates in FedAVG-ISCC worsen performance as non-IID data increases. FedSGD-ISCC maintains performance levels similar to IID conditions. 4) FedSGD-ISCC is more resilient to communication errors than FedAVG-ISCC, which suffers from significant performance degradation as communication errors increase.Extensive simulations confirm the effectiveness of the FL-ISCC framework and validate our theoretical analysis.
- Abstract(参考訳): 6G時代の統合感覚・コミュニケーション・計算(ISCC)の出現に伴い、ISCC(FL-ISCC)との連携学習、サンプル収集、局所訓練、パラメータ交換・集約の統合が進み、訓練効率の向上への関心が高まっている。
現在、FL-ISCCは主にFedAVG-ISCCとFedSGD-ISCCの2つのアルゴリズムを含んでいる。
しかし、これらのアルゴリズムの性能と利点に関する理論的理解は依然として限られている。
このギャップに対処するために、FedAVG-ISCCとFedSGD-ISCCの両方を実装したFL-ISCCフレームワークについて検討する。
FLの遅延とエネルギー消費を低減させるISCCフレームワークの有意義な可能性を実験的に実証した。
さらに、理論的分析と比較を行う。
1) サンプル収集と通信エラーの両方がアルゴリズム性能に悪影響を及ぼし,FL-ISCCアプリケーションを最適化するための注意深い設計の必要性を強調した。
2)FedAVG-ISCCはIIDデータ下ではFedSGD-ISCCよりも優れた性能を示した。
3)FedSGD-ISCCは非IIDデータにおいてFedAVG-ISCCよりも堅牢であり,非IIDデータの増加に伴いFedAVG-ISCCの複数のローカル更新がパフォーマンスを悪化させる。
FedSGD-ISCCはID条件と同様の性能を維持している。
4) FedSGD-ISCCはFedAVG-ISCCよりも通信エラーに対する耐性が高く,通信エラーの増加に伴う性能低下に悩まされている。
関連論文リスト
- Boosting the Performance of Decentralized Federated Learning via Catalyst Acceleration [66.43954501171292]
本稿では,Catalytics Accelerationを導入し,DFedCataと呼ばれる促進型分散フェデレート学習アルゴリズムを提案する。
DFedCataは、パラメータの不整合に対処するMoreauエンベロープ関数と、アグリゲーションフェーズを加速するNesterovの外挿ステップの2つの主要コンポーネントで構成されている。
実験により, CIFAR10/100における収束速度と一般化性能の両面において, 提案アルゴリズムの利点を実証した。
論文 参考訳(メタデータ) (2024-10-09T06:17:16Z) - Heterogeneity-Aware Cooperative Federated Edge Learning with Adaptive Computation and Communication Compression [7.643645513353701]
クラウドベースのフェデレーション・ラーニング(FL)の欠点により、モバイルエッジネットワーク上でのFLの効率を改善するために、協調フェデレーション・エッジ・ラーニング(CFEL)が提案されている。
CFELは、動的および不均一なデバイス特性から生じる重要な課題に直面し、収束を遅くし、リソース消費を増加させる。
本稿では、トレーニング時間とエネルギー消費を最小化し、モデル精度を最大化することを目的とした、textitHeterogeneity-Aware Cooperative Edge-based Federated Averaging (HCEF)と呼ばれる不均一性を考慮したCFEL方式を提案する。
論文 参考訳(メタデータ) (2024-09-06T04:26:57Z) - Cyclical Weight Consolidation: Towards Solving Catastrophic Forgetting in Serial Federated Learning [12.12743798858467]
フェデレートラーニング(FL)は、データの不足とプライバシー上の懸念に対処するために注目を集めている。
FedAvgのような並列FLアルゴリズムは優れた性能を示すが、ネットワーク速度の異なるシナリオでは課題に直面している。
シリアルFLは、デバイス間で連続的に更新を循環的に転送することで、これらの課題を回避するための代替ソリューションを提供する。
論文 参考訳(メタデータ) (2024-05-17T09:20:21Z) - CCFC++: Enhancing Federated Clustering through Feature Decorrelation [8.822947930471429]
フェデレートされたクラスタリングでは、複数のデータ保持クライアントが生データを交換することなくデータを協調的にグループ化する。
CCFCはクライアント間での不均一なデータに悩まされ、貧弱で不正なパフォーマンスをもたらす。
これを解決するために, CCFCにデコリレーション正則化器を導入する。
論文 参考訳(メタデータ) (2024-02-20T09:31:03Z) - Over-the-Air Federated Learning and Optimization [52.5188988624998]
エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。
本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。
エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。
さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
論文 参考訳(メタデータ) (2023-10-16T05:49:28Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Magnitude Matters: Fixing SIGNSGD Through Magnitude-Aware Sparsification
in the Presence of Data Heterogeneity [60.791736094073]
通信オーバーヘッドは、ディープニューラルネットワークの分散トレーニングにおいて、大きなボトルネックのひとつになっています。
本稿では,SIGNSGDの非収束問題に対処する等級化方式を提案する。
提案手法は,Fashion-MNIST, CIFAR-10, CIFAR-100データセットを用いて検証した。
論文 参考訳(メタデータ) (2023-02-19T17:42:35Z) - Communication-Efficient Federated Bilevel Optimization with Local and
Global Lower Level Problems [118.00379425831566]
我々はFedBiOAccという通信効率の高いアルゴリズムを提案する。
我々は、FedBiOAcc-Localがこの種の問題に対して同じ速度で収束していることを証明する。
実験結果から,アルゴリズムの性能が向上した。
論文 参考訳(メタデータ) (2023-02-13T21:28:53Z) - Dynamic Attention-based Communication-Efficient Federated Learning [85.18941440826309]
フェデレートラーニング(FL)は、グローバル機械学習モデルをトレーニングするためのソリューションを提供する。
FLは、クライアントデータの分散が非IIDであるときに性能劣化に悩まされる。
本稿では,この劣化に対処するために,新しい適応トレーニングアルゴリズムであるtextttAdaFL$を提案する。
論文 参考訳(メタデータ) (2021-08-12T14:18:05Z) - DCF-ASN: Coarse-to-fine Real-time Visual Tracking via Discriminative
Correlation Filter and Attentional Siamese Network [9.01402976480327]
識別相関フィルタ(DCF)とシアムネットワークは視覚追跡タスクにおいて有望な性能を達成している。
オンラインアップデーティングdcfモジュールを用いて,目標状態の概算を行う粗粒度追跡フレームワークを提案する。
提案したDCF-ASNは、トラッキング効率が良く、最先端の性能を実現する。
論文 参考訳(メタデータ) (2021-03-19T03:01:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。