論文の概要: EFFL: Egalitarian Fairness in Federated Learning for Mitigating Matthew Effect

• arxiv url: http://arxiv.org/abs/2309.16338v1
• Date: Thu, 28 Sep 2023 10:51:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-29 14:59:01.734542
• Title: EFFL: Egalitarian Fairness in Federated Learning for Mitigating Matthew Effect
• Title（参考訳）: EFFL: マシュー効果の緩和のためのフェデレートラーニングにおける平等
• Authors: Jiashi Gao, Changwu Huang, Ming Tang, Shin Hwei Tan, Xin Yao, Xuetao Wei
• Abstract要約: マシュー効果を緩和するために,平等フェアネスフェデレートラーニング(EFFL)を提案する。 EFFLはパフォーマンスの最適性を目指しており、各クライアントに対する経験的リスク損失とバイアスを最小限にしている。 EFFLは、高性能なグローバルモデルを実現する上で、他の最先端のFLアルゴリズムよりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 11.24699174877316
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in federated learning (FL) enable collaborative training of machine learning (ML) models from large-scale and widely dispersed clients while protecting their privacy. However, when different clients' datasets are heterogeneous, traditional FL mechanisms produce a global model that does not adequately represent the poorer clients with limited data resources, resulting in lower accuracy and higher bias on their local data. According to the Matthew effect, which describes how the advantaged gain more advantage and the disadvantaged lose more over time, deploying such a global model in client applications may worsen the resource disparity among the clients and harm the principles of social welfare and fairness. To mitigate the Matthew effect, we propose Egalitarian Fairness Federated Learning (EFFL), where egalitarian fairness refers to the global model learned from FL has: (1) equal accuracy among clients; (2) equal decision bias among clients. Besides achieving egalitarian fairness among the clients, EFFL also aims for performance optimality, minimizing the empirical risk loss and the bias for each client; both are essential for any ML model training, whether centralized or decentralized. We formulate EFFL as a constrained multi-constrained multi-objectives optimization (MCMOO) problem, with the decision bias and egalitarian fairness as constraints and the minimization of the empirical risk losses on all clients as multiple objectives to be optimized. We propose a gradient-based three-stage algorithm to obtain the Pareto optimal solutions within the constraint space. Extensive experiments demonstrate that EFFL outperforms other state-of-the-art FL algorithms in achieving a high-performance global model with enhanced egalitarian fairness among all clients.
• Abstract（参考訳）: フェデレーション学習(fl)の最近の進歩は、プライバシを保護しながら、大規模かつ広く分散したクライアントからの機械学習(ml)モデルの協調トレーニングを可能にする。 しかしながら、異なるクライアントのデータセットが異種である場合、従来のflメカニズムは、より貧弱なクライアントを限られたデータリソースで適切に表現しないグローバルモデルを生成し、その結果、そのローカルデータに対する精度とバイアスが低下する。 アドバンテージがいかに優位になり、時間とともに不利になるかを説明するmatthew effectによると、このようなグローバルモデルをクライアントアプリケーションにデプロイすることで、クライアント間のリソース格差が悪化し、社会福祉と公正の原則が損なわれる可能性がある。 そこで本研究では,egalitarian fairness(egalitarian fairness federated learning(effl)を提案する。 EFFLは、クライアント間の平等性を達成することに加えて、各クライアントに対する経験的リスク損失とバイアスを最小限に抑える、パフォーマンスの最適性も目標としている。 我々は、EFFLを制約付き多目的最適化(MCMOO)問題として定式化し、決定バイアスと平等公正性を制約とし、最適化すべき複数の目的として全てのクライアントに対する経験的リスク損失を最小化する。 制約空間内でのパレート最適解を得るための勾配に基づく3段階アルゴリズムを提案する。 大規模な実験により、EFFLは他の最先端のFLアルゴリズムよりも優れた性能を示し、全てのクライアントの間で平等性を高めた高性能グローバルモデルを実現する。

関連論文リスト

• Multi-dimensional Fair Federated Learning [25.07463977553212]
  フェデレートラーニング(FL)は、分散データからモデルをトレーニングするための、有望な協調的でセキュアなパラダイムとして登場した。 群フェアネスとクライアントフェアネスは、FLにとって重要である2次元のフェアネスである。 グループフェアネスとクライアントフェアネスを同時に達成するために,mFairFLと呼ばれる手法を提案する。
  論文  参考訳（メタデータ） (2023-12-09T11:37:30Z)
• Fairness-aware Federated Minimax Optimization with Convergence Guarantee [10.727328530242461]
  フェデレートラーニング(FL)はそのプライバシー保護機能のためにかなりの注目を集めている。 ユーザデータ管理の自由の欠如は、モデルが人種や性別などのセンシティブな要因に偏っている、グループフェアネスの問題につながる可能性がある。 本稿では,FLにおけるグループフェアネス問題に明示的に対処するために,拡張ラグランジアン法(FFALM)を用いたフェアフェデレーション平均化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-07-10T08:45:58Z)
• Confidence-aware Personalized Federated Learning via Variational Expectation Maximization [34.354154518009956]
  パーソナライズド・フェデレーション・ラーニング(PFL)のための新しいフレームワークを提案する。 PFLは、クライアント間で共有モデルをトレーニングする分散学習スキームである。 階層的モデリングと変分推論に基づくPFLの新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-21T20:12:27Z)
• Dynamic Regularized Sharpness Aware Minimization in Federated Learning: Approaching Global Consistency and Smooth Landscape [59.841889495864386]
  フェデレートラーニング(FL)では、グローバルサーバの協調の下で、ローカルクライアントのクラスタがチェアリングされる。 クライアントは自身のオプティマに過度に適合する傾向にあり、グローバルな目標から非常に逸脱する。 tt Family FedSMOOは、グローバルな目的に対する局所的な最適性を保証するために動的正規化器を採用する。 理論解析により, tt Family FedSMOO は, 低境界一般化による高速$mathcalO (1/T)$収束率を達成することが示された。
  論文  参考訳（メタデータ） (2023-05-19T10:47:44Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• Generalized Federated Learning via Sharpness Aware Minimization [22.294290071999736]
  シャープネス・アウェア・ミニミゼーション(SAM)の局所性に基づく汎用的で効果的なアルゴリズムである textttFedSAM を提案し,局所的およびグローバルなモデルをブリッジする運動量FLアルゴリズムを開発した。 実験により,提案アルゴリズムは既存のFL研究を著しく上回り,学習偏差を著しく低減した。
  論文  参考訳（メタデータ） (2022-06-06T13:54:41Z)
• Fine-tuning Global Model via Data-Free Knowledge Distillation for Non-IID Federated Learning [86.59588262014456]
  フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。 サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。 私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
  論文  参考訳（メタデータ） (2022-03-17T11:18:17Z)
• Fair and Consistent Federated Learning [48.19977689926562]
  フェデレートラーニング(FL)は、分散データソースから学習する能力に対する関心が高まっている。 本稿では,異なるローカルクライアント間で性能整合性とアルゴリズムフェアネスを協調的に検討するFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-08-19T01:56:08Z)
• Blockchain Assisted Decentralized Federated Learning (BLADE-FL): Performance Analysis and Resource Allocation [119.19061102064497]
  ブロックチェーンをFL、すなわちブロックチェーン支援分散学習(BLADE-FL)に統合することで、分散FLフレームワークを提案する。 提案されたBLADE-FLのラウンドでは、各クライアントはトレーニング済みモデルを他のクライアントにブロードキャストし、受信したモデルに基づいてブロックを生成し、次のラウンドのローカルトレーニングの前に生成されたブロックからモデルを集約します。 遅延クライアントがblade-flの学習性能に与える影響を調査し,最適なk,学習パラメータ,遅延クライアントの割合の関係を特徴付ける。
  論文  参考訳（メタデータ） (2021-01-18T07:19:08Z)
• Toward Understanding the Influence of Individual Clients in Federated Learning [52.07734799278535]
  フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。 em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
  論文  参考訳（メタデータ） (2020-12-20T14:34:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。