論文の概要: A Reputation Mechanism Is All You Need: Collaborative Fairness and
Adversarial Robustness in Federated Learning
- arxiv url: http://arxiv.org/abs/2011.10464v2
- Date: Tue, 27 Jul 2021 12:39:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-23 05:23:33.183397
- Title: A Reputation Mechanism Is All You Need: Collaborative Fairness and
Adversarial Robustness in Federated Learning
- Title（参考訳）: 評判のメカニズムは必要なすべてである:連合学習における協調的公平性と敵意の強固さ
- Authors: Xinyi Xu and Lingjuan Lyu
- Abstract要約: フェデレーション・ラーニング(FL)は、効果的でスケーラブルな機械学習のための新しい実践的フレームワークである。
従来のFLでは、すべての参加者がグローバルモデル(平等報酬)を受け取り、これはハイコントリビューションの参加者にとって不公平かもしれない。
評価機構を用いて協調的公正性と対向的ロバスト性を同時に実現するための新しいRFFLフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 24.442595192268872
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) is an emerging practical framework for effective and
scalable machine learning among multiple participants, such as end users,
organizations and companies. However, most existing FL or distributed learning
frameworks have not well addressed two important issues together: collaborative
fairness and adversarial robustness (e.g. free-riders and malicious
participants). In conventional FL, all participants receive the global model
(equal rewards), which might be unfair to the high-contributing participants.
Furthermore, due to the lack of a safeguard mechanism, free-riders or malicious
adversaries could game the system to access the global model for free or to
sabotage it. In this paper, we propose a novel Robust and Fair Federated
Learning (RFFL) framework to achieve collaborative fairness and adversarial
robustness simultaneously via a reputation mechanism. RFFL maintains a
reputation for each participant by examining their contributions via their
uploaded gradients (using vector similarity) and thus identifies
non-contributing or malicious participants to be removed. Our approach
differentiates itself by not requiring any auxiliary/validation dataset.
Extensive experiments on benchmark datasets show that RFFL can achieve high
fairness and is very robust to different types of adversaries while achieving
competitive predictive accuracy.
- Abstract（参考訳）: Federated Learning(FL)は、エンドユーザや組織、企業など、複数の参加者の間で、効果的でスケーラブルな機械学習のための、新たな実践的フレームワークである。
しかし、既存のFLや分散学習フレームワークの多くは、協力的公正性と敵対的堅牢性(フリーライダーや悪意のある参加者など)という2つの重要な問題にうまく対処していない。
従来のflでは、すべての参加者がグローバルモデル(等額報酬)を受け取り、これは高分配参加者に不公平である可能性がある。
さらに、セーフガード機構が欠如しているため、フリーライダーや悪意のある敵は、システムを無料でグローバルモデルにアクセスしたり、妨害したりすることができる。
本稿では,協調的公平性と敵対的ロバスト性を同時に実現するための,新しいロバストで公正な連合学習(rffl)フレームワークを提案する。
RFFLは、アップロードされた勾配(ベクトル類似性を用いて)を通じて参加者の貢献を検証し、非貢献者や悪意のある参加者を排除して評価を維持する。
我々のアプローチは、補助/検証データセットを一切必要とせず、自らを差別化する。
ベンチマークデータセットの大規模な実験により、RFFLは高い公正性を達成でき、競争力のある予測精度を達成しつつ、異なる種類の敵に対して非常に堅牢であることが示された。
関連論文リスト
- Redefining Contributions: Shapley-Driven Federated Learning [3.9539878659683363]
フェデレーテッド・ラーニング(FL)は、機械学習において重要なアプローチとして登場した。
参加者が平等に、あるいは正直に貢献しない場合、グローバルなモデル収束を保証することは困難です。
本稿では,FLにおけるコントリビューションの詳細な評価のために,ShapFedと呼ばれる新しいコントリビューションアセスメントアセスメント手法を提案する。
論文 参考訳（メタデータ） (2024-06-01T22:40:31Z) - DualFair: Fair Representation Learning at Both Group and Individual
Levels via Contrastive Self-supervision [73.80009454050858]
この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。
我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
論文 参考訳（メタデータ） (2023-03-15T07:13:54Z) - Combating Exacerbated Heterogeneity for Robust Models in Federated
Learning [91.88122934924435]
対人訓練と連合学習の組み合わせは、望ましくない頑丈さの劣化につながる可能性がある。
我々は、Slack Federated Adversarial Training (SFAT)と呼ばれる新しいフレームワークを提案する。
各種ベンチマークおよび実世界のデータセットに対するSFATの合理性と有効性を検証する。
論文 参考訳（メタデータ） (2023-03-01T06:16:15Z) - FedABC: Targeting Fair Competition in Personalized Federated Learning [76.9646903596757]
フェデレートラーニングは、クライアントのローカルプライベートデータにアクセスすることなく、モデルを協調的にトレーニングすることを目的としている。
我々はFedABCと呼ばれるバイナリ分類によるFederated Averagingと呼ばれる新規で汎用的なPFLフレームワークを提案する。
特に、各クライアントに1対1のトレーニング戦略を採用して、クラス間の不公平な競争を軽減する。
論文 参考訳（メタデータ） (2023-02-15T03:42:59Z) - Accelerating Fair Federated Learning: Adaptive Federated Adam [0.0]
データセットが独立で同一に分散されていない場合(非IID)、単純なフェデレーションアルゴリズムによってトレーニングされたモデルは、特定の参加者に偏りが生じる可能性がある。
これは連合学習における公平性問題として知られている。
本稿では,適応的フェデレーション・アダム(AdaFedAdam)を提案し,偏見を緩和して公正なフェデレーション・ラーニングを加速させる。
論文 参考訳（メタデータ） (2023-01-23T10:56:12Z) - Improving Robust Fairness via Balance Adversarial Training [51.67643171193376]
対人訓練 (AT) 法は, 対人攻撃に対して有効であるが, 異なるクラス間での精度と頑健さの相違が激しい。
本稿では,頑健な公正性問題に対処するために,BAT(Adversarial Training)を提案する。
論文 参考訳（メタデータ） (2022-09-15T14:44:48Z) - FairFed: Enabling Group Fairness in Federated Learning [22.913999279079878]
フェデレーテッド・ラーニングは、複数のパーティで機械学習モデルを学習するための有望なソリューションと見なされている。
フェアネスを意識したアグリゲーション手法によりグループフェアネスを高める新しいアルゴリズムであるFairFedを提案する。
提案手法は,高度の不均一な属性分布の下で,最先端の公正な学習フレームワークよりも優れた性能を示す。
論文 参考訳（メタデータ） (2021-10-02T17:55:20Z) - Federated Robustness Propagation: Sharing Adversarial Robustness in
Federated Learning [98.05061014090913]
フェデレートラーニング(FL)は、生データを共有することなく、参加するユーザのセットから学習する、人気のある分散ラーニングスキーマとして登場した。
敵対的トレーニング(AT)は集中学習のための健全なソリューションを提供する。
既存のFL技術では,非IDユーザ間の対向的ロバスト性を効果的に広めることができないことを示す。
本稿では, バッチ正規化統計量を用いてロバスト性を伝達する, 単純かつ効果的な伝搬法を提案する。
論文 参考訳（メタデータ） (2021-06-18T15:52:33Z) - Collaborative Fairness in Federated Learning [24.7378023761443]
深層学習のための新しい協調フェアフェデレーションラーニング(CFFL)フレームワークを提案する。
CFFLは参加者に異なるモデルに収束させ、予測性能を損なうことなく公正を達成する。
ベンチマークデータセットの実験では、CFFLは高い公正性を達成し、分散フレームワークに匹敵する精度を提供する。
論文 参考訳（メタデータ） (2020-08-27T14:39:09Z) - WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。
本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
論文 参考訳（メタデータ） (2020-08-13T04:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。