論文の概要: FedRFQ: Prototype-Based Federated Learning with Reduced Redundancy,
Minimal Failure, and Enhanced Quality
- arxiv url: http://arxiv.org/abs/2401.07558v1
- Date: Mon, 15 Jan 2024 09:50:27 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-17 17:34:04.165701
- Title: FedRFQ: Prototype-Based Federated Learning with Reduced Redundancy,
Minimal Failure, and Enhanced Quality
- Title(参考訳): FedRFQ: 冗長性の低減、最小限の失敗、品質向上によるプロトタイプベースのフェデレーションラーニング
- Authors: Biwei Yan, Hongliang Zhang, Minghui Xu, Dongxiao Yu, Xiuzhen Cheng
- Abstract要約: FedRFQはプロトタイプベースのフェデレーション学習アプローチであり、冗長性を低減し、失敗を最小限に抑え、下位品質を改善することを目的としている。
本稿では,BFT (Byzantine Fault Tolerance) 検出可能な集約アルゴリズムであるBFT-detectを導入する。
- 参考スコア(独自算出の注目度): 41.88338945821504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning is a powerful technique that enables collaborative
learning among different clients. Prototype-based federated learning is a
specific approach that improves the performance of local models under non-IID
(non-Independently and Identically Distributed) settings by integrating class
prototypes. However, prototype-based federated learning faces several
challenges, such as prototype redundancy and prototype failure, which limit its
accuracy. It is also susceptible to poisoning attacks and server malfunctions,
which can degrade the prototype quality. To address these issues, we propose
FedRFQ, a prototype-based federated learning approach that aims to reduce
redundancy, minimize failures, and improve \underline{q}uality. FedRFQ
leverages a SoftPool mechanism, which effectively mitigates prototype
redundancy and prototype failure on non-IID data. Furthermore, we introduce the
BFT-detect, a BFT (Byzantine Fault Tolerance) detectable aggregation algorithm,
to ensure the security of FedRFQ against poisoning attacks and server
malfunctions. Finally, we conduct experiments on three different datasets,
namely MNIST, FEMNIST, and CIFAR-10, and the results demonstrate that FedRFQ
outperforms existing baselines in terms of accuracy when handling non-IID data.
- Abstract(参考訳): 連合学習は、異なるクライアント間の協調学習を可能にする強力な技術である。
原型ベースのフェデレーション学習は、クラスプロトタイプを統合することで、非IID(非独立およびIdentically Distributed)設定下でのローカルモデルの性能を改善するための、特定のアプローチである。
しかし、プロトタイプベースの連合学習は、その精度を制限するプロトタイプ冗長性やプロトタイプ失敗など、いくつかの課題に直面している。
また、攻撃やサーバーの故障の影響を受けやすいため、プロトタイプの品質が低下する可能性がある。
これらの問題に対処するため,我々は,冗長性を低減し,障害を最小限に抑えることを目的とした,プロトタイプベースのフェデレーション学習手法であるfederated learning(federated learning)を提案する。
FedRFQはSoftPoolメカニズムを活用し、非IIDデータにおけるプロトタイプの冗長性とプロトタイプの失敗を効果的に軽減する。
さらに,BFT (Byzantine Fault Tolerance) 検出可能なアグリゲーションアルゴリズムであるBFT-detectを導入し,フェデラル攻撃やサーバの故障に対するFedRFQの安全性を確保する。
最後に、MNIST、FEMNIST、CIFAR-10という3つの異なるデータセットを用いて実験を行い、FedRFQは非IIDデータを扱う際の精度において既存のベースラインよりも優れていることを示した。
関連論文リスト
- FPPL: An Efficient and Non-IID Robust Federated Continual Learning Framework [6.446904116575293]
フェデレーション型連続学習(FCL)は、分散化されたフェデレーション型学習環境において、シーケンシャルなデータストリームから学習することを目的としている。
既存のFCLメソッドは通常、典型的なリハーサル機構を使用しており、これはプライバシー侵害や追加の面倒なストレージや計算負荷をもたらす可能性がある。
本研究では,FPPL(Federated Prototype-Augmented Prompt Learning)と呼ばれる,効率的で非IIDな連立型連続学習フレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-04T09:15:21Z) - Identify Backdoored Model in Federated Learning via Individual Unlearning [7.200910949076064]
裏口攻撃は、フェデレートラーニング(FL)の堅牢性に重大な脅威をもたらす
FLにおける悪意のあるモデルを特定するために,ローカルモデル上で個別の未学習を利用する手法であるMASAを提案する。
私たちの知る限りでは、FLの悪意あるモデルを特定するために機械学習を活用するのはこれが初めてです。
論文 参考訳(メタデータ) (2024-11-01T21:19:47Z) - Fed-Credit: Robust Federated Learning with Credibility Management [18.349127735378048]
Federated Learning(FL)は、分散デバイスやデータソースのモデルトレーニングを可能にする、新興の機械学習アプローチである。
我々は、Fed-Creditと呼ばれる信頼性管理手法に基づく堅牢なFLアプローチを提案する。
その結果、比較的低い計算複雑性を維持しながら、敵攻撃に対する精度とレジリエンスが向上した。
論文 参考訳(メタデータ) (2024-05-20T03:35:13Z) - Towards Robust Federated Learning via Logits Calibration on Non-IID Data [49.286558007937856]
Federated Learning(FL)は、エッジネットワークにおける分散デバイスの共同モデルトレーニングに基づく、プライバシ保護のための分散管理フレームワークである。
近年の研究では、FLは敵の例に弱いことが示されており、その性能は著しく低下している。
本研究では,対戦型訓練(AT)フレームワークを用いて,対戦型実例(AE)攻撃に対するFLモデルの堅牢性を向上させる。
論文 参考訳(メタデータ) (2024-03-05T09:18:29Z) - FedAnchor: Enhancing Federated Semi-Supervised Learning with Label
Contrastive Loss for Unlabeled Clients [19.3885479917635]
Federated Learning(FL)は、デバイス間で共有されたグローバルモデルの協調トレーニングを促進する分散学習パラダイムである。
本稿では,サーバ上のラベル付きアンカーデータにのみ訓練された分類ヘッドと組み合わせて,アンカーヘッドと呼ばれるユニークな二重ヘッド構造を導入する,革新的なFSSL手法であるFedAnchorを提案する。
提案手法は, 高信頼度モデル予測サンプルに基づいて, 疑似ラベル技術に係わる検証バイアスと過度に適合する問題を緩和する。
論文 参考訳(メタデータ) (2024-02-15T18:48:21Z) - Enhancing Multiple Reliability Measures via Nuisance-extended
Information Bottleneck [77.37409441129995]
トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。
我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。
そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
論文 参考訳(メタデータ) (2023-03-24T16:03:21Z) - Combating Exacerbated Heterogeneity for Robust Models in Federated
Learning [91.88122934924435]
対人訓練と連合学習の組み合わせは、望ましくない頑丈さの劣化につながる可能性がある。
我々は、Slack Federated Adversarial Training (SFAT)と呼ばれる新しいフレームワークを提案する。
各種ベンチマークおよび実世界のデータセットに対するSFATの合理性と有効性を検証する。
論文 参考訳(メタデータ) (2023-03-01T06:16:15Z) - RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。
クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。
悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
論文 参考訳(メタデータ) (2021-07-07T15:42:49Z) - Federated Learning with Unreliable Clients: Performance Analysis and
Mechanism Design [76.29738151117583]
Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。
しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。
クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
論文 参考訳(メタデータ) (2021-05-10T08:02:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。