論文の概要: FMCL: Class-Aware Client Clustering with Foundation Model Representations for Heterogeneous Federated Learning
- arxiv url: http://arxiv.org/abs/2604.27510v1
- Date: Thu, 30 Apr 2026 07:08:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:53.966571
- Title: FMCL: Class-Aware Client Clustering with Foundation Model Representations for Heterogeneous Federated Learning
- Title(参考訳): FMCL:不均一なフェデレーション学習のための基礎モデル表現を用いたクラス対応クライアントクラスタリング
- Authors: Mahad Ali, Laura J. Brattain,
- Abstract要約: Federated Learning (FL)は、生データを共有せずに、分散クライアント間で協調的なモデルトレーニングを可能にする。
クラスタ化されたフェデレーションラーニングは、同様のクライアントをグループ化し、別々のモデルをトレーニングすることで、この問題に対処する。
FMCLは単発のクラス対応クライアントクラスタリングフレームワークである。
- 参考スコア(独自算出の注目度): 0.14323566945483493
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) enables collaborative model training across distributed clients without sharing raw data, yet its performance deteriorates under statistical heterogeneity. Clustered Federated Learning addresses this challenge by grouping similar clients and training separate models per cluster. However, existing clustering strategies often rely on raw data statistics, model parameters, or heuristic similarity measures that fail to capture class-level semantic structure across heterogeneous domains and frequently require iterative coordination. We propose FMCL, a one-shot, class-aware client clustering framework that leverages foundation model representations to construct semantic client signatures. Using a frozen foundation model, FMCL computes class-level embedding prototypes for each client and measures similarity via cosine distance between their class-aware representations. Clustering is performed once prior to training, introducing no additional communication during federated optimization and remaining agnostic to the downstream model architecture. Extensive experiments across heterogeneous benchmarks demonstrate that FMCL improves federated performance and yields more stable clustering behavior compared to existing clustering-based methods under non-identically distributed data partitioning.
- Abstract(参考訳): フェデレートラーニング(FL)は、生データを共有せずに分散クライアント間で協調的なモデルトレーニングを可能にするが、その性能は統計的不均一性の下で劣化する。
クラスタ化フェデレーションラーニング(Clustered Federated Learning)は、同様のクライアントをグループ化し、クラスタ毎に別々のモデルをトレーニングすることで、この問題に対処する。
しかし、既存のクラスタリング戦略は、しばしば生のデータ統計、モデルパラメータ、またはヒューリスティックな類似性尺度に頼っている。
本稿では,基本モデル表現を利用してセマンティッククライアントシグネチャを構築する,一発のクラス対応クライアントクラスタリングフレームワークFMCLを提案する。
FMCLは凍結基礎モデルを用いて各クライアントのクラスレベルの埋め込みプロトタイプを計算し、クラス認識表現間のコサイン距離を通じて類似度を測定する。
クラスタリングはトレーニング前に一度実行され、フェデレートされた最適化中に追加の通信を導入せず、下流モデルアーキテクチャに非依存のままである。
不均一なベンチマークによる大規模な実験は、FMCLがフェデレートされた性能を改善し、非同一分散データパーティショニングにおける既存のクラスタリングベースの手法と比較してより安定したクラスタリング挙動をもたらすことを示した。
関連論文リスト
- One-Shot Hierarchical Federated Clustering [51.490181220883905]
本稿では,効率的な階層型クラスタリングフレームワークを提案する。
クライアント-エンドの分散探索とサーバ-エンドの分散アグリゲーションを実行する。
クライアント間の複雑なクラスタ分布を効率的に探索できることが判明した。
論文 参考訳(メタデータ) (2026-01-10T02:58:33Z) - Federated Multi-Task Clustering [44.73672172790804]
本稿では,Federated Multi-Task Clustering(FMTC)という新しいフレームワークを提案する。
クライアント側パーソナライズされたクラスタリングモジュールとサーバ側テンソル相関モジュールの2つの主要コンポーネントで構成されている。
乗算器の交互方向法に基づく,効率的なプライバシ保護分散アルゴリズムを導出する。
論文 参考訳(メタデータ) (2025-12-28T12:02:32Z) - DPMM-CFL: Clustered Federated Learning via Dirichlet Process Mixture Model Nonparametric Clustering [8.645893961456801]
クラスタ化されたフェデレートラーニングは、非IIDクライアントの不均一性の下でのパフォーマンスを改善する。
ほとんどのCFL法は、プリオリを固定するためにクラスターKの数を必要とする。
本稿では,クラスタパラメータの分布に先立ってディリクレプロセス(DP)を配置するCFLアルゴリズムDPMM-CFLを提案する。
論文 参考訳(メタデータ) (2025-10-08T15:27:08Z) - Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。
本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。
ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2025-02-05T16:33:36Z) - A Bayesian Framework for Clustered Federated Learning [14.426129993432193]
連邦学習(FL)の主な課題の1つは、非独立で同一に分散された(非IID)クライアントデータを扱うことである。
本稿では、クライアントをクラスタに関連付けるクラスタ化FLのための統一ベイズフレームワークを提案する。
この作業は、クライアントとクラスタの関連に関する洞察を提供し、新しい方法でクライアントの知識共有を可能にする。
論文 参考訳(メタデータ) (2024-10-20T19:11:24Z) - Efficient Distribution Similarity Identification in Clustered Federated
Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。
既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。
以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文 参考訳(メタデータ) (2022-09-21T17:37:54Z) - On the Convergence of Clustered Federated Learning [57.934295064030636]
統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。
本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-13T02:39:19Z) - You Never Cluster Alone [150.94921340034688]
我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。
分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。
代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
論文 参考訳(メタデータ) (2021-06-03T14:59:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。