論文の概要: Enhancing Security in Federated Learning through Adaptive
Consensus-Based Model Update Validation
- arxiv url: http://arxiv.org/abs/2403.04803v1
- Date: Tue, 5 Mar 2024 20:54:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-11 22:04:17.765385
- Title: Enhancing Security in Federated Learning through Adaptive
Consensus-Based Model Update Validation
- Title(参考訳): アダプティブコンセンサスに基づくモデル更新検証による連合学習のセキュリティ向上
- Authors: Zahir Alsulaimawi
- Abstract要約: 本稿では,ラベルフリップ攻撃に対して,FL(Federated Learning)システムを構築するための高度なアプローチを提案する。
本稿では,適応的しきい値設定機構と統合されたコンセンサスに基づく検証プロセスを提案する。
以上の結果から,FLシステムのレジリエンスを高め,ラベルフリップ攻撃の顕著な緩和効果が示唆された。
- 参考スコア(独自算出の注目度): 2.28438857884398
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces an advanced approach for fortifying Federated Learning
(FL) systems against label-flipping attacks. We propose a simplified
consensus-based verification process integrated with an adaptive thresholding
mechanism. This dynamic thresholding is designed to adjust based on the
evolving landscape of model updates, offering a refined layer of anomaly
detection that aligns with the real-time needs of distributed learning
environments. Our method necessitates a majority consensus among participating
clients to validate updates, ensuring that only vetted and consensual
modifications are applied to the global model. The efficacy of our approach is
validated through experiments on two benchmark datasets in deep learning,
CIFAR-10 and MNIST. Our results indicate a significant mitigation of
label-flipping attacks, bolstering the FL system's resilience. This method
transcends conventional techniques that depend on anomaly detection or
statistical validation by incorporating a verification layer reminiscent of
blockchain's participatory validation without the associated cryptographic
overhead. The innovation of our approach rests in striking an optimal balance
between heightened security measures and the inherent limitations of FL
systems, such as computational efficiency and data privacy. Implementing a
consensus mechanism specifically tailored for FL environments paves the way for
more secure, robust, and trustworthy distributed machine learning applications,
where safeguarding data integrity and model robustness is critical.
- Abstract(参考訳): 本稿では,ラベルフリッピング攻撃に対する連合学習(fl)システム強化のための先進的アプローチを提案する。
適応しきい値設定機構を組み込んだ簡易なコンセンサスに基づく検証プロセスを提案する。
この動的しきい値は、モデル更新の進化的な展望に基づいて調整され、分散学習環境のリアルタイムニーズに合わせて、洗練された異常検出層を提供するように設計されている。
提案手法は,グローバルモデルに拒否的かつ合意的な修正のみを適用することを保証するため,参加顧客間での多数意見の一致が必要である。
本手法の有効性は,ディープラーニングにおける2つのベンチマークデータセットであるCIFAR-10とMNISTを用いて検証した。
FLシステムのレジリエンスを高めるため,ラベルフリップ攻撃の顕著な緩和が示唆された。
この方法は、暗号化オーバーヘッドを伴わないブロックチェーンの参加検証を思い出させる検証層を組み込むことで、異常検出や統計的検証に依存する従来の手法を超越する。
当社のアプローチの革新は、セキュリティ対策の強化と、計算効率やデータプライバシといったFLシステム固有の制限との最適なバランスを保ちます。
fl環境用に特別に調整されたコンセンサスメカニズムの実装は、データの完全性とモデルのロバスト性を保護するために、よりセキュアで堅牢で信頼性の高い分散機械学習アプリケーションへの道を開く。
関連論文リスト
- Enhancing Data Provenance and Model Transparency in Federated Learning
Systems -- A Database Approach [1.2180726230978978]
Federated Learning (FL)は、分散型エッジデバイス間で機械学習モデルをトレーニングするための有望なパラダイムを提供する。
これらの分散環境におけるデータの完全性とトレーサビリティの確保は、依然として重要な課題である。
FLシステムにおけるデータプロファイランスとモデルの透明性を高めるための最初のアプローチの1つを提案する。
論文 参考訳(メタデータ) (2024-03-03T09:08:41Z) - Reinforcement Learning as a Catalyst for Robust and Fair Federated
Learning: Deciphering the Dynamics of Client Contributions [6.318638597489423]
Reinforcement Federated Learning (RFL)は、深い強化学習を活用して、集約中のクライアントコントリビューションを適応的に最適化する新しいフレームワークである。
堅牢性に関しては、RFLは同等の公平性を維持しつつ、最先端の手法よりも優れています。
論文 参考訳(メタデータ) (2024-02-08T10:22:12Z) - Privacy-Preserving Distributed Learning for Residential Short-Term Load
Forecasting [11.185176107646956]
電力システムの負荷データは、住宅ユーザの日常のルーチンを不注意に明らかにし、彼らの財産のセキュリティにリスクを及ぼす可能性がある。
我々はマルコフスイッチ方式の分散学習フレームワークを導入し、その収束は厳密な理論的解析によって実証される。
実世界の電力系統負荷データを用いたケーススタディにより,提案アルゴリズムの有効性を検証した。
論文 参考訳(メタデータ) (2024-02-02T16:39:08Z) - An Online, Adaptive and Unsupervised Regression Framework with Drift
Detection for Label Scarcity Contexts [0.0]
本稿では,制限付きラベル付きデータを用いたストリーミング環境の最適戦略を提案し,教師なし回帰のための適応手法を提案する。
適応性を高めるために,Adaptive WINdowingアルゴリズムとRoot Mean Square Error (RMSE)に基づく誤り一般化アルゴリズムを統合する。
ラベルをリアルタイムで取得することが重要な課題であるタスクに対して,適応回帰手法の優れた効果を実証する。
論文 参考訳(メタデータ) (2023-12-12T19:23:54Z) - Enabling Quartile-based Estimated-Mean Gradient Aggregation As Baseline
for Federated Image Classifications [5.5099914877576985]
Federated Learning(FL)は、機密データを保護し、モデルパフォーマンスを改善しながら、分散コラボレーションを可能にすることによって、ディープニューラルネットワークのトレーニング方法に革命をもたらした。
本稿では,これらの課題に対処するだけでなく,FLシステムにおける高度な集約技術に対して$mathsfbaseline$として基本的な参照ポイントを提供する,Estimated Mean Aggregation (EMA) という革新的なソリューションを紹介する。
論文 参考訳(メタデータ) (2023-09-21T17:17:28Z) - Conformal Prediction for Federated Uncertainty Quantification Under
Label Shift [57.54977668978613]
Federated Learning(FL)は、多くのクライアントが協力してモデルをトレーニングする機械学習フレームワークである。
我々は、量子回帰に基づく新しいコンフォメーション予測法を開発し、プライバシー制約を考慮した。
論文 参考訳(メタデータ) (2023-06-08T11:54:58Z) - Recursively Feasible Probabilistic Safe Online Learning with Control
Barrier Functions [63.18590014127461]
本稿では,CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
本研究では,ロバストな安全クリティカルコントローラの実現可能性について検討する。
次に、これらの条件を使って、イベントトリガーによるオンラインデータ収集戦略を考案します。
論文 参考訳(メタデータ) (2022-08-23T05:02:09Z) - A Regularized Implicit Policy for Offline Reinforcement Learning [54.7427227775581]
オフラインの強化学習は、環境とのさらなるインタラクションなしに、固定データセットから学習を可能にする。
フレキシブルだが十分に調整された完全実装ポリシーの学習を支援するフレームワークを提案する。
D4RLデータセットの実験とアブレーション研究により、我々のフレームワークとアルゴリズム設計の有効性が検証された。
論文 参考訳(メタデータ) (2022-02-19T20:22:04Z) - Joint Differentiable Optimization and Verification for Certified
Reinforcement Learning [91.93635157885055]
安全クリティカル制御システムのためのモデルベース強化学習では,システム特性を正式に認定することが重要である。
本稿では,強化学習と形式検証を共同で行う枠組みを提案する。
論文 参考訳(メタデータ) (2022-01-28T16:53:56Z) - RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。
クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。
悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
論文 参考訳(メタデータ) (2021-07-07T15:42:49Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳(メタデータ) (2020-11-24T19:52:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。