論文の概要: FedPLT: Scalable, Resource-Efficient, and Heterogeneity-Aware Federated Learning via Partial Layer Training

• arxiv url: http://arxiv.org/abs/2605.02337v1
• Date: Mon, 04 May 2026 08:41:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:50.195091
• Title: FedPLT: Scalable, Resource-Efficient, and Heterogeneity-Aware Federated Learning via Partial Layer Training
• Title（参考訳）: FedPLT: 部分層トレーニングによる拡張性、資源効率、不均一性を考慮したフェデレーションラーニング
• Authors: Ahmad Dabaja, Rachid El-Azouzi,
• Abstract要約: Federated Learning (FL) は分散機械学習において大きな注目を集めている。 本稿では,FedPLT(Federated Learning with partial Layer Training)を提案する。 FedPLTがフルモデルのトレーニングに匹敵する、あるいは超えるパフォーマンスを実現していることを示す。
• 参考スコア（独自算出の注目度）: 0.42970700836450487
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) has gained significant attention in distributed machine learning by enabling collaborative model training across decentralized system while preserving data privacy. Although extensive research has addressed statistical data heterogeneity, FL still faces several challenges, including high communication and computation overheads and severe device heterogeneity, which require further investigation. Prior work has addressed these issues through sub-model training and partial parameter training. However, such methods often suffer from inconsistent parameter distributions across clients, inaccurate global loss estimation, and increased bias and variance. Guided by our empirical analysis, we propose FedPLT (Federated Learning with Partial Layer Training), an innovative and structured partial parameter training approach that exhibits training behavior similar to full model training while assigning client-specific portions of the model according to their communication and computational capabilities. In addition, we evaluate the performance of FedPLT when combined with optimal client sampling under communication constraints. We show that this integration improves FL performance by reducing sampling variance under the same communication budget. Through extensive experiments, we demonstrate that FedPLT achieves performance comparable to, or even surpassing, that of full-model training (i.e., FedAvg), while requiring significantly fewer trainable parameters per client. Moreover, FedPLT outperforms existing methods in highly heterogeneous environments, effectively adapts to client resource constraints, and reduces the number of straggling clients. In particular, FedPLT reduces the number of trainable parameters by 71%-82% while achieving performance on par with full-model training.
• Abstract（参考訳）: フェデレーテッド・ラーニング(FL)は、分散機械学習において、データプライバシを保持しながら分散化されたシステム間で協調的なモデルトレーニングを可能にすることで、大きな注目を集めている。 統計データの異質性に関する広範な研究は行われているが、FLは高い通信や計算オーバーヘッド、厳密なデバイス異質性など、さらなる調査を必要とするいくつかの課題に直面している。 以前の作業では、サブモデルトレーニングと部分パラメータトレーニングによってこれらの問題に対処してきた。 しかし、このような手法は、クライアント間での不整合パラメータ分布、不正確な大域的損失推定、バイアスと分散の増大に悩まされることが多い。 実験的な分析により,FedPLT(Federated Learning with partial Layer Training)を提案する。FedPLT(Federated Learning with partial Layer Training)は,コミュニケーションや計算能力に応じて,クライアント固有の部分を割り当てながら,フルモデルトレーニングに似たトレーニング行動を示す,革新的で構造化された部分パラメータトレーニング手法である。 さらに,通信制約下での最適なクライアントサンプリングと組み合わせてFedPLTの性能を評価する。 この統合により,同一の通信予算下でのサンプリング分散を低減し,FL性能が向上することを示す。 広範な実験を通じて、FedPLTはフルモデルトレーニング(例えばFedAvg)に匹敵するパフォーマンスを達成し、クライアント毎のトレーニング可能なパラメータを著しく少なくすることを示した。 さらに、FedPLTは、高度に異種な環境で既存のメソッドより優れており、クライアントリソースの制約に効果的に適応し、バラバラなクライアントの数を減らす。 特に、FedPLTはトレーニング可能なパラメータの数を71%～82%削減し、フルモデルトレーニングと同等のパフォーマンスを実現している。

関連論文リスト

• Resource-Aware Aggregation and Sparsification in Heterogeneous Ensemble Federated Learning [0.9176056742068811]
  フェデレートラーニング(FL)は、プライベートクライアントデータによる分散トレーニングを可能にする。 現在のアンサンブルに基づくFL法はモデル予測の多様性を捉えるには不十分である。 多様な計算能力を持つクライアントに適したグローバルアンサンブルベースのFLフレームワークである textbfSHEFL を提案する。
  論文  参考訳（メタデータ） (2025-08-12T01:40:46Z)
• Over-the-Air Fair Federated Learning via Multi-Objective Optimization [52.295563400314094]
  本稿では,公平なFLモデルを訓練するためのOTA-FFL(Over-the-air Fair Federated Learning Algorithm)を提案する。 OTA-FFLの公正性とロバストな性能に対する優位性を示す実験を行った。
  論文  参考訳（メタデータ） (2025-01-06T21:16:51Z)
• FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup for Non-IID Data [54.81695390763957]
  フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。 我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。 クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
  論文  参考訳（メタデータ） (2023-09-18T12:35:05Z)
• Effectively Heterogeneous Federated Learning: A Pairing and Split Learning Based Approach [16.093068118849246]
  本稿では,クライアントと異なる計算資源をペアリングする,新しい分割フェデレーション学習(SFL)フレームワークを提案する。 グラフエッジ選択問題として,学習遅延の最適化を再構築し,グレディアルゴリズムを提案する。 シミュレーションの結果,提案手法はFLトレーニング速度を大幅に向上し,高い性能を実現することができることがわかった。
  論文  参考訳（メタデータ） (2023-08-26T11:10:54Z)
• SemiSFL: Split Federated Learning on Unlabeled and Non-IID Data [34.49090830845118]
  フェデレートラーニング(FL)は、複数のクライアントがネットワークエッジでプライベートデータ上で機械学習モデルを協調的にトレーニングできるようにするためのものだ。 クラスタリング正規化を取り入れて,ラベルなしおよび非IIDクライアントデータでSFLを実行する,Semi-supervised SFLシステムを提案する。 本システムは,訓練時間の3.8倍の高速化を実現し,目標精度を達成しつつ通信コストを約70.3%削減し,非IIDシナリオで最大5.8%の精度向上を実現する。
  論文  参考訳（メタデータ） (2023-07-29T02:35:37Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• Integrating Local Real Data with Global Gradient Prototypes for Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
  フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。 データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。 本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
  論文  参考訳（メタデータ） (2023-01-25T03:18:10Z)
• FedDM: Iterative Distribution Matching for Communication-Efficient Federated Learning [87.08902493524556]
  フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。 我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。 そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
  論文  参考訳（メタデータ） (2022-07-20T04:55:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。