論文の概要: COSMOS: Model-Agnostic Personalized Federated Learning with Clustered Server Models and Pseudo-Label-Only Communication

• arxiv url: http://arxiv.org/abs/2605.11165v1
• Date: Mon, 11 May 2026 19:16:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.381613
• Title: COSMOS: Model-Agnostic Personalized Federated Learning with Clustered Server Models and Pseudo-Label-Only Communication
• Title（参考訳）: COSMOS:クラスタ化されたサーバモデルと擬似ラベル専用通信によるモデル非依存の個人化フェデレーション学習
• Abstract要約: 擬似ラベル通信のみを用いてサーバ側のパーソナライズを可能にするモデルに依存しないフレームワークであるCOSMOSを紹介する。 クライアントはローカルモデルをトレーニングし、公開データに基づいて予測する。サーバは類似性を予測してクライアントをクラスタ化し、独自の計算を使用して各グループのクラスタ固有のモデルをトレーニングする。 本研究では,学習クラスタモデルの蒸留が指数関数的パーソナライズリスク収縮をもたらすことを示す最初の理論的解析を行った。
• 参考スコア（独自算出の注目度）: 30.273926583699264
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) in heterogeneous environments remains challenging because client models often differ in both architecture and data distribution. While recent approaches attempt to address this challenge through client clustering and knowledge distillation, simultaneously handling architectural and statistical heterogeneity remains difficult. We introduce COSMOS, a model-agnostic framework that enables server-side personalization using only pseudo-label communication. Clients train local models and predict on the public data; the server clusters clients by prediction similarity, trains a cluster-specific model for each group using its own compute, and distills the resulting models back to clients. We provide the first theoretical analysis showing that distillation from the learned cluster models can yield exponential personalization risk contraction, going beyond the convergence-to-stationarity guarantees typically provided in model-agnostic FL. Experiments across benchmarks demonstrate that COSMOS consistently outperforms all model-agnostic FL baselines while remaining competitive with state-of-the-art personalized FL methods. More broadly, our results highlight personalized server-side learning with pseudo-labels as a promising paradigm for scalable and model-agnostic federated learning in highly heterogeneous environments.
• Abstract（参考訳）: 不均一環境におけるフェデレートラーニング(FL)は、クライアントモデルがアーキテクチャとデータ分散の両方でしばしば異なるため、依然として困難である。 最近のアプローチでは、クライアントクラスタリングと知識蒸留によってこの問題に対処しようとしているが、同時にアーキテクチャと統計的不均一性を扱うことは困難である。 擬似ラベル通信のみを用いてサーバ側のパーソナライズを可能にするモデルに依存しないフレームワークであるCOSMOSを紹介する。 クライアントはローカルモデルをトレーニングし、公開データに基づいて予測する。サーバは類似性を予測してクライアントをクラスタ化し、独自の計算を使用して各グループのクラスタ固有のモデルをトレーニングし、結果のモデルをクライアントに蒸留する。 本研究では,学習クラスタモデルからの蒸留が,モデルに依存しないFLで典型的に提供される収束-定常性保証を超える指数的パーソナライズリスク収縮をもたらすことを示す最初の理論的解析を行った。 ベンチマークによる実験によると、COSMOSは、最先端のパーソナライズされたFLメソッドと競合しながら、すべてのモデルに依存しないFLベースラインを一貫して上回っている。 より広範に、我々は擬似ラベルを用いたパーソナライズされたサーバサイド学習を、高度に異種環境におけるスケーラブルでモデルに依存しないフェデレーション学習のための有望なパラダイムとして強調した。

関連論文リスト

• Boosting Generalization Performance in Model-Heterogeneous Federated Learning Using Variational Transposed Convolution [0.27309692684728615]
  Federated Learning(FL)は、分散クライアントがローカルデータを効率的に処理できるようにする、先駆的な機械学習パラダイムである。 従来のモデル均質なアプローチは、主に局所的なトレーニング手順を正規化したり、集約においてクライアントの重みを動的に調整したりする。 モデルアグリゲーションなしで未確認データに対するクライアントの一般化性能を向上させるモデル不均一FLフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-03T08:55:18Z)
• Not All Clients Are Equal: Collaborative Model Personalization on Heterogeneous Multi-Modal Clients [59.52341877720199]
  計算コストを伴わずに異種アーキテクチャ間の知識共有を可能にするFedMosaicを提案する。 実世界のタスクの多様性を模倣するために,40の異なるタスクにまたがるマルチモーダルPFLベンチマークを提案する。 実証研究は、FedMosaicが最先端のPFL法より優れていることを示している。
  論文  参考訳（メタデータ） (2025-05-20T09:17:07Z)
• Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
  フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。 本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。 ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-02-05T16:33:36Z)
• Knowledge-Driven Federated Graph Learning on Model Heterogeneity [47.98634086448171]
  FGL(Federated Graph Learning)は、協調グラフ表現学習において、有望なパラダイムとして登場した。 本稿では,FedGKC(Federated Graph Knowledge Collaboration)フレームワークを提案する。 FedGKCは、MHtFGLシナリオのベースラインよりも平均3.74%の精度向上を実現し、均一な設定では優れたパフォーマンスを維持している。
  論文  参考訳（メタデータ） (2025-01-22T04:12:32Z)
• Client-Centric Federated Adaptive Optimization [78.30827455292827]
  Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。 本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
  論文  参考訳（メタデータ） (2025-01-17T04:00:50Z)
• An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
  フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。 従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。 我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
  論文  参考訳（メタデータ） (2024-04-29T05:55:23Z)
• Contrastive encoder pre-training-based clustered federated learning for heterogeneous data [17.580390632874046]
  フェデレートラーニング(FL)は、分散クライアントがデータのプライバシを保持しながら、グローバルモデルを協調的にトレーニングすることを可能にする。 本稿では,モデル収束とFLシステム全体の性能を改善するために,CP-CFL(Contrative Pre-training-based Clustered Federated Learning)を提案する。
  論文  参考訳（メタデータ） (2023-11-28T05:44:26Z)
• One-Shot Heterogeneous Federated Learning with Local Model-Guided Diffusion Models [40.83058938096914]
  FedLMGは局所モデル誘導拡散モデルを用いた単発フェデレーション学習法である。 クライアントはファンデーションモデルにアクセスする必要はなく、ローカルモデルのトレーニングとアップロードのみを行う。
  論文  参考訳（メタデータ） (2023-11-15T11:11:25Z)
• Fine-tuning Global Model via Data-Free Knowledge Distillation for Non-IID Federated Learning [86.59588262014456]
  フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。 サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。 私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
  論文  参考訳（メタデータ） (2022-03-17T11:18:17Z)
• Personalized Federated Learning by Structured and Unstructured Pruning under Data Heterogeneity [3.291862617649511]
  クライアントレベルの目的からパーソナライズされたモデルを得るための新しいアプローチを提案する。 このパーソナライズを実現するために、各クライアントの小さなサブネットワークを見つける。
  論文  参考訳（メタデータ） (2021-05-02T22:10:46Z)
• Federated Mutual Learning [65.46254760557073]
  Federated Mutual Leaning (FML)は、クライアントが汎用モデルとパーソナライズされたモデルを独立してトレーニングすることを可能にする。 実験により、FMLは一般的なフェデレート学習環境よりも優れた性能が得られることが示された。
  論文  参考訳（メタデータ） (2020-06-27T09:35:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。