論文の概要: Personalized Federated Learning for Gradient Alignment
- arxiv url: http://arxiv.org/abs/2605.02143v1
- Date: Mon, 04 May 2026 01:50:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:50.103336
- Title: Personalized Federated Learning for Gradient Alignment
- Title(参考訳): グラディエントアライメントのための個人化フェデレーション学習
- Authors: Dongwon Kim, Gyuejeong Lee,
- Abstract要約: pFLAlignは、ローカルトレーニングとアグリゲーションの両方の間、クライアント固有の情報を維持するための勾配アライメントフレームワークである。
pFLAlignはパーソナライズ性能とトレーニング安定性を継続的に改善する。
- 参考スコア(独自算出の注目度): 8.912327975864768
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalized federated learning (pFL) aims to adapt models to client specific data distributions, yet it often fails to reliably preserve personalized information. Local training is hindered by high variance gradients induced by limited and heterogeneous client data, while aggregation further distorts client specific optimization directions. To address these challenges, we propose pFLAlign, a gradient alignment framework to maintain client specific information during both local training and aggregation. pFLAlign consists of two complementary mechanisms: one adapts local gradient directions to reduce variance during client side optimization, and the other mitigates aggregation induced distortion by realigning the global model with each client's personalized direction. Theoretically, we derive pFLAlign from a PAC Bayesian analysis, which reveals how personalized gradient alignment preserves client specific information. Our experiments and ablation studies show that pFLAlign consistently improves personalization performance and training stability, achieving state of the art results.
- Abstract(参考訳): パーソナライズド・フェデレーション・ラーニング(pFL)は、クライアント固有のデータ分布にモデルを適応させることを目的としているが、パーソナライズされた情報を確実に保存することができないことが多い。
局所的なトレーニングは、制限された不均一なクライアントデータによって誘導される高分散勾配によって妨げられ、アグリゲーションはクライアント固有の最適化方向をさらに歪ませる。
これらの課題に対処するために,ローカルトレーニングとアグリゲーションの両方において,クライアント固有の情報を維持するための勾配アライメントフレームワークpFLAlignを提案する。
pFLAlignは2つの相補的なメカニズムから構成される: 1つは、クライアント側最適化時の分散を低減するために局所勾配方向を適応し、もう1つは、グローバルモデルを各クライアントのパーソナライズされた方向で実現することにより、集約誘導歪みを軽減する。
理論的には、pFLAlignをPACベイズ解析から導き、パーソナライズした勾配アライメントがクライアント固有の情報をいかに保存するかを明らかにする。
以上の結果から,pFLAlignはパーソナライズ性能とトレーニング安定性を継続的に向上し,最先端の成果が得られた。
関連論文リスト
- GAPSL: A Gradient-Aligned Parallel Split Learning on Heterogeneous Data [61.365432566830485]
本稿では、リーダー勾配同定(LGI)と勾配方向アライメント(GDA)の2つの主要な構成要素からなる勾配整列並列分割学習(PSL)フレームワークを提案する。
GAPSLは、トレーニングの精度とレイテンシにおいて、最先端のベンチマークを一貫して上回る。
論文 参考訳(メタデータ) (2026-03-19T06:51:05Z) - CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - FedPPA: Progressive Parameter Alignment for Personalized Federated Learning [0.9931624906346306]
フェデレートラーニング(FL)は、複数のクライアントがデータを共有せずに協調的にモデルをトレーニングできる、分散されたプライバシ保護機械学習パラダイムとして設計されている。
実世界のシナリオでは、クライアントは不均一な計算資源を持ち、非独立で同一の分散データ(非IID)を保持し、トレーニング中に重大な課題を生じさせる。
本稿では,クライアント間の共通レイヤの重み付けとグローバルモデルの重み付けを段階的に整合させるプログレッシブアライメント(FedPPA)を提案する。
MNIST、FMNIST、CIFAR-10を含む3つの画像分類データセットの実験は、FedPPAが既存のFLアルゴリズムより一貫して優れていることを示した。
論文 参考訳(メタデータ) (2025-10-16T14:03:05Z) - FedHiP: Heterogeneity-Invariant Personalized Federated Learning Through Closed-Form Solutions [22.424881385529783]
我々は、勾配に基づく更新を避けるために、解析的(つまり、クローズドフォーム)な解を通じて、FedHiPと呼ばれる不均質不変な個人化フェデレーション学習スキームを提案する。
提案手法は,分析的局所学習,分析的グローバルアグリゲーション,分析的局所パーソナライゼーションの3段階を含む。
ベンチマークデータセットの実験は、我々のFedHiPスキームの優位性を検証し、最先端のベースラインを少なくとも5.79%-20.97%の精度で上回った。
論文 参考訳(メタデータ) (2025-08-06T14:15:57Z) - FedAli: Personalized Federated Learning Alignment with Prototype Layers for Generalized Mobile Services [9.683642138601464]
フェデレートアライメント(Federated Alignment, FedAli)は、プロトタイプベースの正規化技術であり、パーソナライズされた適応の堅牢性を強化しながら、クライアント間のアライメントを強化する。
コアとなるFedAliは、一般化を強化するために、人間のメモリにインスパイアされたPrototypesレイヤによるアライメントを導入した。
実験の結果,FedAliは不均一な環境下で強いパーソナライゼーションを維持しつつ,クライアントの一般化を著しく向上させることがわかった。
論文 参考訳(メタデータ) (2024-11-15T21:35:21Z) - FedImpro: Measuring and Improving Client Update in Federated Learning [77.68805026788836]
フェデレートラーニング(FL)モデルは、不均一なデータによって引き起こされるクライアントのドリフトを経験することが多い。
我々は、クライアントのドリフトに対する別の視点を示し、改善されたローカルモデルを生成することにより、それを緩和することを目指している。
論文 参考訳(メタデータ) (2024-02-10T18:14:57Z) - Adaptive Self-Distillation for Minimizing Client Drift in Heterogeneous
Federated Learning [9.975023463908496]
Federated Learning(FL)は、クライアントがローカルトレーニングデータを共有せずに、局所的にトレーニングされたモデルを集約することで、グローバルモデルの共同トレーニングを可能にする機械学習パラダイムである。
本稿では,適応自己蒸留(ASD)に基づく新たな正規化手法を提案する。
我々の正規化方式は,グローバルモデルエントロピーとクライアントのラベル分布に基づいて,クライアントのトレーニングデータに適応的に適応的に適応する。
論文 参考訳(メタデータ) (2023-05-31T07:00:42Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。