論文の概要: FedCoE: Bridging Generalization and Personalization via Federated Coordinated Dual-level MoEs

• arxiv url: http://arxiv.org/abs/2605.21264v1
• Date: Wed, 20 May 2026 14:52:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.738344
• Title: FedCoE: Bridging Generalization and Personalization via Federated Coordinated Dual-level MoEs
• Title（参考訳）: FedCoE:Federated Coordinated Dual-level MoEsによるブリッジング一般化とパーソナライゼーション
• Abstract要約: フェデレートラーニング(FL)は、プライバシ保護のための分散ラーニングのための有望なパラダイムとして登場した。 従来の平均化に基づくアプローチは、非IID条件下でのパラメータ分散に悩まされる。 パーソナライズされたFLメソッドは、ローカルデータに過度に適合し、新しいクライアントに一般化できない。 我々は,グローバルな一般化とローカルなパーソナライゼーションのバランスを効果的に整えるための,Mix-of-ExpertsフレームワークであるFedCoEを提案する。
• 参考スコア（独自算出の注目度）: 29.457808575204506
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) has emerged as a promising paradigm for privacy-preserving distributed learning. However, existing FL methods face a fundamental challenge. Traditional averaging-based approaches suffer from parameter divergence under non-IID conditions, while personalized FL methods overfit to local data and fail to generalize to new clients (cold-start problem). Mixture-of-Experts naturally addresses this by routing heterogeneous data to specialized experts rather than forcing uniform aggregation. In this paper, we propose FedCoE, a Federated Coordinated dual-level mixture-of-Experts framework that effectively balances global generalization with local personalization. FedCoE maintains multiple independent global expert models on the server and employs a shared gating network to dynamically model client-expert correlations during aggregation, effectively mitigating expert drift and gating inconsistency. To address the cold-start challenge, we introduce an adaptive mechanism that enables new clients to immediately leverage the global expert pool without extensive local training. Extensive experiments demonstrate that FedCoE achieves 78.00% global accuracy and 89.32% personalized accuracy on average, outperforming the baseline by 8.82% and 29.19%, respectively. In cold-start scenarios, FedCoE delivers 77.27% accuracy without any local fine-tuning, outperforming baselines by over 12.54%.
• Abstract（参考訳）: フェデレートラーニング(FL)は、プライバシ保護のための分散ラーニングのための有望なパラダイムとして登場した。 しかし、既存のFL法は根本的な課題に直面している。 従来の平均化ベースのアプローチは、非IID条件下でパラメータのばらつきに悩まされ、パーソナライズされたFLメソッドはローカルデータに過度に適合し、新しいクライアントに一般化できない(コールドスタート問題)。 Mixture-of-Expertsは、均一なアグリゲーションを強制するのではなく、専門の専門家に異種データをルーティングすることで、自然にこの問題に対処する。 本稿では,グローバルな一般化と局所的なパーソナライズを効果的にバランスするフェデレーション・コーディネート・デュアルレベル・ミックス・オブ・エキスパート・フレームワークであるFedCoEを提案する。 FedCoEはサーバ上で複数の独立したグローバルエキスパートモデルを維持し、共有ゲーティングネットワークを使用して集約中にクライアントと専門家の相関関係を動的にモデル化し、専門家のドリフトを効果的に軽減し、一貫性を低下させる。 コールドスタートの課題に対処するために,新たなクライアントがグローバルなエキスパートプールを,広範囲なローカルトレーニングを伴わずに即座に活用できる適応的なメカニズムを導入する。 大規模な実験により、FedCoEは平均して78.00%の精度と89.32%のパーソナライズされた精度を達成し、それぞれ8.82%、29.19%の精度でベースラインを上回った。 コールドスタートのシナリオでは、FedCoEは局所的な微調整なしで77.27%の精度でベースラインを12.54%以上上回っている。

関連論文リスト

• Similarity-Aware Personalized Federated Learning in Heterogeneous Environments [10.354095147014043]
  フェデレートラーニング(Federated Learning)は、分散クライアントがデータのプライバシを保持しながら、協力的にモデルをトレーニングすることを可能にする。 クライアント間の分散ミスマッチは、多くの場合、グローバルな一般化が貧弱で、ローカルクライアントレベルのパフォーマンスが低下する。 SPE-FL(Similarity-Aware Personalized Federated Learning)は、各クライアントのモデルをグローバルモデルと類似度重み付きピア平均モデルの両方に固定する新しいパーソナライズフレームワークである。
  論文  参考訳（メタデータ） (2026-09-02T07:48:04Z)
• Separate Aggregation of Split Network for Personalized Federated Learning [0.9668407688201359]
  フェデレーション学習は、不均一なクライアントデータ分散の下で大幅に劣化する可能性がある。 我々は、パーソナライズされたフェデレーション学習フレームワークであるPGFedSplitを提案する。 Fashion MNIST、CIFAR 10、CIFAR 100、Tiny ImageNetの実験では、アートPFL手法の状態を一貫した改善が示されている。
  論文  参考訳（メタデータ） (2026-05-26T05:44:30Z)
• Aggregation Alignment for Federated Learning with Mixture-of-Experts under Data Heterogeneity [27.791732281031695]
  大規模言語モデル(LLM)は、計算量を削減しつつモデルのキャパシティをスケールするために、Mixture-of-Experts (MoE)アーキテクチャを採用するようになっている。 これらのMoEベースのLPMを微調整するには、分散データとプライバシに敏感なデータにアクセスする必要があることが多いため、集中的な微調整は現実的ではない。 我々は、ルーティングの一貫性と専門的なセマンティックアライメントを共同で実施するフェデレーションアライメントアライメントアライメントフレームワークであるFedAlign-MoEを提案する。
  論文  参考訳（メタデータ） (2026-03-22T15:07:39Z)
• FedPrism: Adaptive Personalized Federated Learning under Non-IID Data [1.299941371793082]
  FedPrismは、各クライアントのモデルを3つの部分から構築するフレームワークである。 Prism Decompositionメソッドを使用して、各クライアントのモデルを3つの部分から構築する。 また、Dual-Streamデザインを使用しており、地元のスペシャリストと一緒に一般的なモデルを実行している。
  論文  参考訳（メタデータ） (2026-03-09T11:23:32Z)
• Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
  Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。 実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。 FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
  論文  参考訳（メタデータ） (2026-02-01T05:54:59Z)
• CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
  コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。 CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
  論文  参考訳（メタデータ） (2025-10-23T05:10:06Z)
• Client-Centric Federated Adaptive Optimization [78.30827455292827]
  Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。 本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
  論文  参考訳（メタデータ） (2025-01-17T04:00:50Z)
• An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
  フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。 従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。 我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
  論文  参考訳（メタデータ） (2024-04-29T05:55:23Z)
• FedImpro: Measuring and Improving Client Update in Federated Learning [77.68805026788836]
  フェデレートラーニング(FL)モデルは、不均一なデータによって引き起こされるクライアントのドリフトを経験することが多い。 我々は、クライアントのドリフトに対する別の視点を示し、改善されたローカルモデルを生成することにより、それを緩和することを目指している。
  論文  参考訳（メタデータ） (2024-02-10T18:14:57Z)
• Learning to Specialize: Joint Gating-Expert Training for Adaptive MoEs in Decentralized Settings [41.98633628526484]
  Mixture-of-Experts (MoEs)は、コンポーネントのサブセットを動的に活性化することでスケーラビリティを実現する。 推論コストとデータヘテロジニティにより、ゲーティング関数と専門家の協調トレーニングがドメイン固有の専門知識を割り当てる方法について検討する。
  論文  参考訳（メタデータ） (2023-06-14T15:47:52Z)
• FedGH: Heterogeneous Federated Learning with Generalized Global Header [16.26231633749833]
  フェデレートラーニング(Federated Learning, FL)は、複数のパーティが共有モデルをトレーニングできる、新興の機械学習パラダイムである。 本稿では,FedGH(Federated Global Prediction Header)アプローチを提案する。 FedGHは、クライアントモデルのための異種抽出器による表現で、共通化されたグローバルな予測ヘッダーを訓練する。
  論文  参考訳（メタデータ） (2023-03-23T09:38:52Z)
• FedDC: Federated Learning with Non-IID Data via Local Drift Decoupling and Correction [48.85303253333453]
  フェデレートラーニング(FL)は、複数のクライアントがプライベートデータを共有せずに、高性能なグローバルモデルを集合的にトレーニングすることを可能にする。 局所的ドリフトデカップリングと補正(FedDC)を用いた新しいフェデレーション学習アルゴリズムを提案する。 私たちのFedDCでは、ローカルモデルパラメータとグローバルモデルパラメータのギャップを追跡するために、各クライアントが補助的なローカルドリフト変数を使用するような、ローカルトレーニングフェーズにおける軽量な修正のみを導入しています。 実験結果と解析結果から,FedDCは様々な画像分類タスクにおいて,収差の迅速化と性能の向上を図っている。
  論文  参考訳（メタデータ） (2022-03-22T14:06:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。