論文の概要: FedSPC: Shared Parameter Correction for Personalized Federated Learning
- arxiv url: http://arxiv.org/abs/2606.13748v1
- Date: Thu, 11 Jun 2026 15:07:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 16:00:42.542383
- Title: FedSPC: Shared Parameter Correction for Personalized Federated Learning
- Title(参考訳): FedSPC:個人化フェデレーション学習のための共有パラメータ補正
- Authors: Kannanthodath Induchoodan Ajay Menon, Christian Prehofer, Yunfei Xu, Toru Hirano,
- Abstract要約: 多くのパーソナライズド・フェデレーション・ラーニング(PFL)手法は、モデルを共有パラメータとパーソナライズパラメータに分割し、各クライアントで共同でトレーニングする。
共有パラメータは、異なるローカル目的を最適化するクライアントによって更新されるため、一貫性のない共有更新が発生し、共有表現が弱まる可能性がある。
我々はPFLのモジュラー補正法であるFederated PFLを提案する。FedSPCは、パーソナライズされたパラメータをそのまま残しながら、与えられたPFLの共有パラメータのみに制御変量補正を適用する。
共有特徴抽出器、共有分類器、局所正規化を伴う完全共有モデルという3つの一般的なPFL設定に統合することができる。
- 参考スコア(独自算出の注目度): 0.831469209185165
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Personalized federated learning (PFL) is one of the important approaches in federated learning for addressing statistical heterogeneity while enabling client-specific adaptation. Many PFL methods split the model into shared and personalized parameters, which are jointly trained on each client. However, this creates an optimization issue: shared parameters are updated by clients optimizing different local objectives, which can lead to inconsistent shared updates and weaken the shared representation. To address this problem, we propose Federated Shared Parameter Correction (FedSPC), a modular correction method for PFL. FedSPC applies control-variate correction only to the shared parameters of a given PFL method, while leaving personalized parameters unchanged. It can be integrated into three common PFL settings: shared feature extractors, shared classifiers, and fully shared models with local regularization. Experiments on CIFAR-100 and Tiny-ImageNet with ViT, ResNet-34, and VGG-11 show that FedSPC improves performance across representative PFL methods, including FedPer, FedRep, FedBABU, LG-FedAvg, and Ditto.
- Abstract(参考訳): パーソナライズド・フェデレーション・ラーニング(PFL)は、統計的不均一性に対処し、クライアント固有の適応を可能にするために、フェデレーションド・ラーニングにおいて重要なアプローチの1つである。
多くのPFLメソッドは、モデルを共有パラメータとパーソナライズパラメータに分割し、各クライアントで共同でトレーニングする。
しかし、これは最適化の問題を生み出す: 共有パラメータは、異なるローカル目的を最適化するクライアントによって更新される。
この問題に対処するために、PFLのモジュラー補正法であるフェデレート共有パラメータ補正(FedSPC)を提案する。
FedSPCは、パーソナライズされたパラメータをそのまま残しながら、与えられたPFL法の共有パラメータのみに制御変量補正を適用する。
共有特徴抽出器、共有分類器、局所正規化を伴う完全共有モデルという3つの一般的なPFL設定に統合することができる。
CIFAR-100とTiny-ImageNetをViT、ResNet-34、VGG-11で実験したところ、FedSPCはFedPer、FedRep、FedBABU、LG-FedAvg、Dittoを含む代表的なPFLメソッドで性能を改善している。
関連論文リスト
- CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - FedAPA: Server-side Gradient-Based Adaptive Personalized Aggregation for Federated Learning on Heterogeneous Data [5.906966694759679]
FedAPAは、パーソナライズされたモデルを生成するためのサーバサイドの勾配に基づく適応アダプティブアグリゲーション戦略を備えた、新しいPFL手法である。
FedAPAは理論収束を保証し、3つのデータセットにわたる10のPFL競合と比較して精度と計算効率が優れている。
論文 参考訳(メタデータ) (2025-02-11T11:00:58Z) - Tackling Feature-Classifier Mismatch in Federated Learning via Prompt-Driven Feature Transformation [12.19025665853089]
従来のフェデレートラーニングアプローチでは、グローバルモデルはデータの不均一性に直面するとパフォーマンスが低下する。
我々は,FedPFTと呼ばれる新しいPFLフレームワークを提案し,特徴抽出器の品質を高めつつミスマッチ問題に対処する。
実験の結果,FedPFTは最先端の手法より最大7.08%優れていた。
論文 参考訳(メタデータ) (2024-07-23T02:52:52Z) - PPFL: A Personalized Federated Learning Framework for Heterogeneous Population [27.93326556470552]
パーソナライゼーションは個人の好みを特徴づけることを目的としており、多くの分野に広く適用されている。
従来のパーソナライズされた方法は中央集権的な方法で動作し、個々の情報をプールする際の生データを公開する可能性がある。
我々は,人口パーソナライズド・フェデレーション・ラーニングのパラダイムの中で,フレキシブルかつ解釈可能なパーソナライズド・フレームワークを開発する。
論文 参考訳(メタデータ) (2023-10-22T16:06:27Z) - Towards More Suitable Personalization in Federated Learning via
Decentralized Partial Model Training [67.67045085186797]
既存のシステムのほとんどは、中央のFLサーバが失敗した場合、大きな通信負荷に直面しなければならない。
共有パラメータと個人パラメータを交互に更新することで、ディープモデルの「右」をパーソナライズする。
共有パラメータアグリゲーションプロセスをさらに促進するために、ローカルシャープネス最小化を統合するDFedを提案する。
論文 参考訳(メタデータ) (2023-05-24T13:52:18Z) - PerAda: Parameter-Efficient Federated Learning Personalization with Generalization Guarantees [95.87604231887353]
既存のpFL手法は高い通信コストと計算コストをもたらすか、テスト通信に弱い。
PerAdaではパラメータ蒸留とpFL pFLが特に試験時間分布において優れた性能を示す。
私たちのコードはhttps://github.com/NV/PerAda.comで公開されています。
論文 参考訳(メタデータ) (2023-02-13T19:00:37Z) - Achieving Personalized Federated Learning with Sparse Local Models [75.76854544460981]
フェデレートラーニング(FL)は異種分散データに対して脆弱である。
この問題に対処するため、個人ごとに専用のローカルモデルを作成するためにパーソナライズされたFL(PFL)が提案された。
既存のPFLソリューションは、異なるモデルアーキテクチャに対する不満足な一般化を示すか、あるいは膨大な余分な計算とメモリを犠牲にするかのどちらかである。
我々は、パーソナライズされたスパースマスクを用いて、エッジ上のスパースローカルモデルをカスタマイズする新しいPFLスキームFedSpaを提案する。
論文 参考訳(メタデータ) (2022-01-27T08:43:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。