論文の概要: Loss Gap Parity for Fairness in Heterogeneous Federated Learning
- arxiv url: http://arxiv.org/abs/2603.29818v1
- Date: Tue, 31 Mar 2026 14:43:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-01 15:25:03.727986
- Title: Loss Gap Parity for Fairness in Heterogeneous Federated Learning
- Title(参考訳): 不均質なフェデレーション学習における公平さの損失ギャップパリティ
- Authors: Brahim Erraji, Michaël Perrot, Aurélien Bellet,
- Abstract要約: コンベックスと非凸の両ケースにおいて競争力を維持しつつ, クライアントが局所的最適損失からファテストを優先することを示す。
本稿では,クライアント間の損失ギャップの相違を最小限に抑える新しいモデルを提案する。
- 参考スコア(独自算出の注目度): 15.28811768542599
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While clients may join federated learning to improve performance on data they rarely observe locally, they often remain self-interested, expecting the global model to perform well on their own data. This motivates an objective that ensures all clients achieve a similar loss gap -the difference in performance between the global model and the best model they could train using only their local data-. To this end, we propose EAGLE, a novel federated learning algorithm that explicitly regularizes the global model to minimize disparities in loss gaps across clients. Our approach is particularly effective in heterogeneous settings, where the optimal local models of the clients may be misaligned. Unlike existing methods that encourage loss parity, potentially degrading performance for many clients, EAGLE targets fairness in relative improvements. We provide theoretical convergence guarantees for EAGLE under non-convex loss functions, and characterize how its iterates perform relative to the standard federated learning objective using a novel heterogeneity measure. Empirically, we demonstrate that EAGLE reduces the disparity in loss gaps among clients by prioritizing those furthest from their local optimal loss, while maintaining competitive utility in both convex and non-convex cases compared to strong baselines.
- Abstract(参考訳): クライアントはフェデレートされた学習に参加して、ローカルではほとんど観測されないデータのパフォーマンスを改善することができるが、グローバルモデルが自身のデータでうまく機能することを期待して、自己関心を保ち続けることが多い。
これは、すべてのクライアントが同様の損失ギャップ(グローバルモデルとローカルデータのみを使用してトレーニングできる最高のモデルのパフォーマンスの違い)を達成するための目標である。
そこで本研究では,クライアント間の損失ギャップの相違を最小限に抑えるために,グローバルモデルを明確に正規化するための新しいフェデレーション学習アルゴリズムであるEAGLEを提案する。
我々のアプローチは、クライアントの最適なローカルモデルが不整合であるような異種環境において特に効果的である。
多くのクライアントのパフォーマンスが低下する可能性があり、損失パリティを促進する既存の方法とは異なり、EAGLEは相対的な改善の公平性を目標としている。
非凸損失関数の下でのERGLEの理論的収束保証を行い、新しい不均一性尺度を用いて、その反復が標準的フェデレーション学習目標に対してどのように機能するかを特徴付ける。
実験により,EAGLE は,これらのファーテストを局所的最適損失から優先順位付けし,コンベックスと非凸の両ケースの競争性を維持することにより,クライアント間の損失ギャップの相違を低減できることを実証した。
関連論文リスト
- Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳(メタデータ) (2026-02-01T05:54:59Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - Locally Estimated Global Perturbations are Better than Local Perturbations for Federated Sharpness-aware Minimization [81.32266996009575]
フェデレートラーニング(FL)では、クライアント間の複数ステップの更新とデータの均一性が、よりシャープなミニマによるロスランドスケープにつながることが多い。
クライアント側におけるグローバルな摂動方向を局所的に推定する新しいアルゴリズムであるFedLESAMを提案する。
論文 参考訳(メタデータ) (2024-05-29T08:46:21Z) - Anti-Matthew FL: Bridging the Performance Gap in Federated Learning to Counteract the Matthew Effect [4.716839088197377]
フェデレートラーニング(FL)は、異種および多種多様なデータセット間のモデルトレーニングを容易にする。
本研究では,クライアントレベルでのグローバルモデルに対するアンチマシューフェアネスを提案する。
提案するアンチマシューFLは,高性能なグローバルモデルを実現する上で,他の最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-09-28T10:51:12Z) - Dynamic Regularized Sharpness Aware Minimization in Federated Learning: Approaching Global Consistency and Smooth Landscape [59.841889495864386]
フェデレートラーニング(FL)では、グローバルサーバの協調の下で、ローカルクライアントのクラスタがチェアリングされる。
クライアントは自身のオプティマに過度に適合する傾向にあり、グローバルな目標から非常に逸脱する。
tt Family FedSMOOは、グローバルな目的に対する局所的な最適性を保証するために動的正規化器を採用する。
理論解析により, tt Family FedSMOO は, 低境界一般化による高速$mathcalO (1/T)$収束率を達成することが示された。
論文 参考訳(メタデータ) (2023-05-19T10:47:44Z) - Entropy-driven Fair and Effective Federated Learning [26.22014904183881]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散デバイス間で協調的なモデルトレーニングを可能にする。
本稿では,理論に基づくアグリゲーションとモデルと勾配アライメントを組み合わせることで,モデル性能と大域的モデル性能を同時に最適化する手法を提案する。
論文 参考訳(メタデータ) (2023-01-29T10:02:42Z) - Fair and Consistent Federated Learning [48.19977689926562]
フェデレートラーニング(FL)は、分散データソースから学習する能力に対する関心が高まっている。
本稿では,異なるローカルクライアント間で性能整合性とアルゴリズムフェアネスを協調的に検討するFLフレームワークを提案する。
論文 参考訳(メタデータ) (2021-08-19T01:56:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。