論文の概要: A Robust Clustered Federated Learning Approach for Non-IID Data with Quantity Skew
- arxiv url: http://arxiv.org/abs/2510.03380v1
- Date: Fri, 03 Oct 2025 15:23:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-07 16:52:58.949534
- Title: A Robust Clustered Federated Learning Approach for Non-IID Data with Quantity Skew
- Title(参考訳): 量子スキューを用いた非IIDデータのロバストクラスタ化フェデレーション学習手法
- Authors: Michael Ben Ali, Imen Megdiche, André Peninou, Olivier Teste,
- Abstract要約: 本稿では, 各種非IID条件下での最先端CFLアルゴリズムの評価を行う。
またCORNFLQSという新しい反復型CFLアルゴリズムを提案する。
その結果,CORNFLQSは,QS摂動に対する強い強靭性とともに,精度とクラスタリング品質の両方において,最高評価を達成していることがわかった。
- 参考スコア(独自算出の注目度): 0.41765120028423003
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated Learning (FL) is a decentralized paradigm that enables a client-server architecture to collaboratively train a global Artificial Intelligence model without sharing raw data, thereby preserving privacy. A key challenge in FL is Non-IID data. Quantity Skew (QS) is a particular problem of Non-IID, where clients hold highly heterogeneous data volumes. Clustered Federated Learning (CFL) is an emergent variant of FL that presents a promising solution to Non-IID problem. It improves models' performance by grouping clients with similar data distributions into clusters. CFL methods generally fall into two operating strategies. In the first strategy, clients select the cluster that minimizes the local training loss. In the second strategy, the server groups clients based on local model similarities. However, most CFL methods lack systematic evaluation under QS but present significant challenges because of it. In this paper, we present two main contributions. The first one is an evaluation of state-of-the-art CFL algorithms under various Non-IID settings, applying multiple QS scenarios to assess their robustness. Our second contribution is a novel iterative CFL algorithm, named CORNFLQS, which proposes an optimal coordination between both operating strategies of CFL. Our approach is robust against the different variations of QS settings. We conducted intensive experiments on six image classification datasets, resulting in 270 Non-IID configurations. The results show that CORNFLQS achieves the highest average ranking in both accuracy and clustering quality, as well as strong robustness to QS perturbations. Overall, our approach outperforms actual CFL algorithms.
- Abstract(参考訳): Federated Learning(FL)は、クライアントサーバアーキテクチャが生データを共有せずにグローバルな人工知能モデルを協調的にトレーニングし、プライバシーを保護できる分散パラダイムである。
FLの主な課題は、非IIDデータである。
量子スキュー(QS)は、クライアントが高度に異質なデータボリュームを保持する非IIDの特殊な問題である。
CFL(Clustered Federated Learning)は、非IID問題に対する有望な解決策を示すFLの創発的な変種である。
同様のデータ分散を持つクライアントをクラスタにグループ化することで、モデルのパフォーマンスを向上させる。
CFL法は一般に2つの運用戦略に分類される。
最初の戦略では、クライアントはローカルのトレーニング損失を最小限に抑えるクラスタを選択する。
第2の戦略では、サーバはローカルモデルの類似性に基づいてクライアントをグループ化する。
しかし、ほとんどのCFL法は、QS下では体系的な評価を欠いているが、それ故に重要な課題が提示されている。
本稿では,2つの主な貢献について述べる。
1つ目は、様々な非IID設定下での最先端CFLアルゴリズムの評価であり、その堅牢性を評価するために複数のQSシナリオを適用している。
第2のコントリビューションは、CORNFLQSと呼ばれる新しい反復CFLアルゴリズムであり、CFLの両運用戦略間の最適調整を提案する。
当社のアプローチは、異なるQS設定のバリエーションに対して堅牢です。
我々は、6つの画像分類データセットに対して集中的な実験を行い、270個の非IID構成を得た。
その結果,CORNFLQSは,QS摂動に対する強い強靭性とともに,精度とクラスタリング品質の両方において,最高評価を達成していることがわかった。
全体として、我々のアプローチは実際のCFLアルゴリズムよりも優れています。
関連論文リスト
- One-Shot Clustering for Federated Learning Under Clustering-Agnostic Assumption [0.7990816079551591]
One-Shot Clustered Federated Learning (OCFL)は、クラスタリングに最も適した瞬間を自動的に検出するクラスタリングに依存しないアルゴリズムである。
5つのベンチマークデータセット上で40以上のタスクに対して、様々なワンショットクラスタリングアルゴリズムをテストすることで、我々の方法論を実証的に評価する。
論文 参考訳(メタデータ) (2025-09-01T16:18:51Z) - CLoVE: Personalized Federated Learning through Clustering of Loss Vector Embeddings [1.966764032092535]
クラスタ化フェデレーション学習(CFL)のための新しいアルゴリズムであるCLoVEを提案する。
CLoVEは、クライアントデータに対するモデル損失に由来するクライアントの埋め込みを利用し、同じクラスタ内のクライアントが同様の損失値を共有するという洞察を活用する。
CLoVEは、異なるクラスタからクライアントを反復的に識別し、分離し、クラスタ固有のモデルを最適化することができる。
論文 参考訳(メタデータ) (2025-06-27T17:52:16Z) - One-Shot Clustering for Federated Learning [2.8060709233558647]
One-Shot Clustered Federated Learning (OCFL)は、クラスタリングに最も適した瞬間を自動的に検出するクラスタリングに依存しないアルゴリズムである。
本アルゴリズムは,クライアントの勾配のコサイン類似性の計算と,フェデレートモデルが収束し始める温度測定値に基づく。
論文 参考訳(メタデータ) (2025-03-06T09:12:43Z) - Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。
本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。
ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2025-02-05T16:33:36Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - Communication Efficient ConFederated Learning: An Event-Triggered SAGA
Approach [67.27031215756121]
Federated Learning(FL)は、さまざまなデータソース上のローカルデータを収集することなく、モデルトレーニングをターゲットとする機械学習パラダイムである。
単一のサーバを使用するStandard FLは、限られた数のユーザしかサポートできないため、学習能力の低下につながる。
本研究では,多数のユーザに対応するために,emphConfederated Learning(CFL)と呼ばれるマルチサーバFLフレームワークを検討する。
論文 参考訳(メタデータ) (2024-02-28T03:27:10Z) - Client Orchestration and Cost-Efficient Joint Optimization for
NOMA-Enabled Hierarchical Federated Learning [55.49099125128281]
半同期クラウドモデルアグリゲーションの下で非直交多重アクセス(NOMA)を実現するHFLシステムを提案する。
提案手法は,HFLの性能改善と総コスト削減に関するベンチマークよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-03T13:34:44Z) - Stochastic Clustered Federated Learning [21.811496586350653]
本稿では,一般の非IID問題に対する新しいクラスタ化フェデレーション学習手法であるStoCFLを提案する。
詳細は、StoCFLは、任意の割合のクライアント参加と新しく加入したクライアントをサポートする柔軟なCFLフレームワークを実装しています。
その結果,StoCFLはクラスタ数の不明な場合でも,有望なクラスタ結果が得られることがわかった。
論文 参考訳(メタデータ) (2023-03-02T01:39:16Z) - Optimizing Server-side Aggregation For Robust Federated Learning via
Subspace Training [80.03567604524268]
クライアント間の非IIDデータ分散と中毒攻撃は、現実世界のフェデレーション学習システムにおける2つの大きな課題である。
サーバ側集約プロセスを最適化する汎用的なアプローチであるSmartFLを提案する。
本稿では,SmartFLの収束と一般化能力に関する理論的解析を行う。
論文 参考訳(メタデータ) (2022-11-10T13:20:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。