論文の概要: Rethinking Clustered Federated Learning in NOMA Enhanced Wireless
Networks
- arxiv url: http://arxiv.org/abs/2403.03157v1
- Date: Tue, 5 Mar 2024 17:49:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 14:02:24.602335
- Title: Rethinking Clustered Federated Learning in NOMA Enhanced Wireless
Networks
- Title(参考訳): NOMA強化無線ネットワークにおけるクラスタ型フェデレーション学習の再考
- Authors: Yushen Lin, Kaidi Wang and Zhiguo Ding
- Abstract要約: 本研究では,新しいクラスタ化フェデレーション学習(CFL)アプローチと,非独立かつ同一に分散した(非IID)データセットを統合することのメリットについて検討する。
データ分布における非IIDの度合いを測定する一般化ギャップの詳細な理論的解析について述べる。
非IID条件によって引き起こされる課題に対処する解決策は、特性の分析によって提案される。
- 参考スコア(独自算出の注目度): 60.09912912343705
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This study explores the benefits of integrating the novel clustered federated
learning (CFL) approach with non-orthogonal multiple access (NOMA) under
non-independent and identically distributed (non-IID) datasets, where multiple
devices participate in the aggregation with time limitations and a finite
number of sub-channels. A detailed theoretical analysis of the generalization
gap that measures the degree of non-IID in the data distribution is presented.
Following that, solutions to address the challenges posed by non-IID conditions
are proposed with the analysis of the properties. Specifically, users' data
distributions are parameterized as concentration parameters and grouped using
spectral clustering, with Dirichlet distribution serving as the prior. The
investigation into the generalization gap and convergence rate guides the
design of sub-channel assignments through the matching-based algorithm, and the
power allocation is achieved by Karush-Kuhn-Tucker (KKT) conditions with the
derived closed-form solution. The extensive simulation results show that the
proposed cluster-based FL framework can outperform FL baselines in terms of
both test accuracy and convergence rate. Moreover, jointly optimizing
sub-channel and power allocation in NOMA-enhanced networks can lead to a
significant improvement.
- Abstract(参考訳): 本研究では,非独立かつ同一分散(非iid)データセットに対して,非直交的多重アクセス(noma)とcfl(clustered federated learning)アプローチを統合することで,複数のデバイスが時間制限と有限個のサブチャネルによる集約に参加することによるメリットについて検討する。
データ分布における非IIDの度合いを測定する一般化ギャップの詳細な理論的解析について述べる。
続いて,非iid条件によって生じる課題に対処するための解を,特性解析を用いて提案する。
具体的には、ユーザのデータ分布は集中パラメータとしてパラメータ化され、スペクトルクラスタリングを使用してグループ化される。
一般化ギャップと収束率の研究はマッチングに基づくアルゴリズムによるサブチャネル割り当ての設計を導いており、kkt(karush-kuhn-tucker)条件と導出した閉形式解によって電力割当が達成される。
大規模シミュレーションの結果,提案するクラスタベースFLフレームワークは,テスト精度と収束率の両面でFLベースラインを上回っていることがわかった。
さらに、NOMA強化ネットワークにおけるサブチャネルの最適化と電力割り当てを併用することにより、大幅な改善が期待できる。
関連論文リスト
- Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Hierarchical Federated Learning in Multi-hop Cluster-Based VANETs [12.023861154677205]
本稿では,マルチホップクラスタリングに基づくVANET上での階層型フェデレーション学習(HFL)のための新しいフレームワークを提案する。
提案手法は,FLモデルパラメータの平均相対速度とコサイン類似度の重み付けをクラスタリング指標として用いる。
大規模なシミュレーションにより,クラスタ化VANET上での階層型フェデレーション学習が,精度と収束時間を大幅に向上させることを示した。
論文 参考訳(メタデータ) (2024-01-18T20:05:34Z) - ClusterDDPM: An EM clustering framework with Denoising Diffusion
Probabilistic Models [9.91610928326645]
拡散確率モデル(DDPM)は、新しい、そして有望な生成モデルのクラスを表す。
本研究では,DDPMを用いたクラスタリングのための革新的予測最大化(EM)フレームワークを提案する。
Mステップでは、条件付きDDPMを用いてクラスタリングに親しみやすい潜在表現を学習し、潜在表現の分布をガウスの先行表現の混合と整合させることに重点を置いている。
論文 参考訳(メタデータ) (2023-12-13T10:04:06Z) - Analysis and Optimization of Wireless Federated Learning with Data
Heterogeneity [72.85248553787538]
本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。
ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。
実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-04T04:18:01Z) - Validation Diagnostics for SBI algorithms based on Normalizing Flows [55.41644538483948]
本研究は,NFに基づく多次元条件(後)密度推定器の検証診断を容易にすることを提案する。
また、局所的な一貫性の結果に基づいた理論的保証も提供する。
この作業は、より良い特定モデルの設計を支援したり、新しいSBIアルゴリズムの開発を促進するのに役立つだろう。
論文 参考訳(メタデータ) (2022-11-17T15:48:06Z) - Disentangled Federated Learning for Tackling Attributes Skew via
Invariant Aggregation and Diversity Transferring [104.19414150171472]
属性は、クライアント間の一貫した最適化方向から、現在の連邦学習(FL)フレームワークを歪めます。
本稿では,ドメイン固有属性とクロス不変属性を2つの補足枝に分離するために,非絡み付きフェデレーション学習(DFL)を提案する。
実験により、DFLはSOTA FL法と比較して高い性能、より良い解釈可能性、より高速な収束率でFLを促進することが確認された。
論文 参考訳(メタデータ) (2022-06-14T13:12:12Z) - Probabilistic partition of unity networks: clustering based deep
approximation [0.0]
ユニタリネットワーク(POU-Nets)の分割は、回帰とPDEの解に対する代数収束率を実現することができる。
ガウス雑音モデルを用いてPOU-Netを拡張し、最大可算損失の勾配に基づく一般化を導出できる確率的一般化を得る。
本研究では,高次元・低次元での性能を定量化するためのベンチマークを行い,高次元空間内のデータの潜在次元にのみ依存することを示す。
論文 参考訳(メタデータ) (2021-07-07T08:02:00Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳(メタデータ) (2021-06-15T17:45:51Z) - Real Elliptically Skewed Distributions and Their Application to Robust
Cluster Analysis [5.137336092866906]
本稿では,Really Skewed(RESK)分布と関連するクラスタリングアルゴリズムの新しいクラスを提案する。
非対称分散および重み付きデータクラスタは、様々な現実世界のアプリケーションで報告されている。
論文 参考訳(メタデータ) (2020-06-30T10:44:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。