論文の概要: Threats to Federated Learning: A Survey

• arxiv url: http://arxiv.org/abs/2003.02133v1
• Date: Wed, 4 Mar 2020 15:30:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-26 12:51:10.504158
• Title: Threats to Federated Learning: A Survey
• Title（参考訳）: 連合学習への脅威:調査
• Authors: Lingjuan Lyu, Han Yu, Qiang Yang
• Abstract要約: フェデレーテッド・ラーニング(FL)は、この新しい現実の下で有望なソリューションとして登場した。 既存のFLプロトコルの設計は、敵に悪用される脆弱性を示すことが示されている。 本稿では、FLの概念を簡潔に紹介し、脅威モデルをカバーするユニークな分類法と、FLに対する2つの主要な攻撃について述べる。
• 参考スコア（独自算出の注目度）: 35.724483191921244
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the emergence of data silos and popular privacy awareness, the traditional centralized approach of training artificial intelligence (AI) models is facing strong challenges. Federated learning (FL) has recently emerged as a promising solution under this new reality. Existing FL protocol design has been shown to exhibit vulnerabilities which can be exploited by adversaries both within and without the system to compromise data privacy. It is thus of paramount importance to make FL system designers to be aware of the implications of future FL algorithm design on privacy-preservation. Currently, there is no survey on this topic. In this paper, we bridge this important gap in FL literature. By providing a concise introduction to the concept of FL, and a unique taxonomy covering threat models and two major attacks on FL: 1) poisoning attacks and 2) inference attacks, this paper provides an accessible review of this important topic. We highlight the intuitions, key techniques as well as fundamental assumptions adopted by various attacks, and discuss promising future research directions towards more robust privacy preservation in FL.
• Abstract（参考訳）: データサイロの出現と一般的なプライバシー意識により、人工知能(AI)モデルをトレーニングする従来の集中型アプローチは、大きな課題に直面している。 フェデレーション学習(fl)は、この新たな現実の下で有望なソリューションとして最近登場した。 既存のflプロトコル設計では、データプライバシを侵害するシステム内外の敵によって悪用される脆弱性が示されている。 したがって、FLシステム設計者が将来のFLアルゴリズム設計がプライバシー保護に与える影響を意識させることが最重要となる。 現在、この話題に関する調査は行われていない。 本稿では,FL文学におけるこの重要なギャップを橋渡しする。 flの概念の簡潔な説明と、脅威モデルとflに対する2つの主要な攻撃をカバーするユニークな分類法を提供することによって: 1)毒殺、及び 2) 推論攻撃について,本論文では,この重要なトピックの参照可能なレビューを行う。 我々は、様々な攻撃によって採用された直観、鍵となる技術、基本的な前提を強調し、FLにおけるより堅牢なプライバシー保護に向けた将来的な研究の方向性について論じる。

関連論文リスト

• Trustworthy Federated Learning: Privacy, Security, and Beyond [37.495790989584584]
  Federated Learning (FL)は、生データを転送することなく、分散データソース間で協調的なモデルトレーニングを促進することで、問題に対処する。 FLが抱えるセキュリティとプライバシに関する広範な調査を行い、通信リンクの脆弱性とサイバー脅威の可能性を明らかにします。 FLフレームワーク内で発生する複雑なセキュリティ課題を特定し、セキュアで効率的なFLシステムの開発に寄与することを目的としている。
  論文  参考訳（メタデータ） (2024-11-03T14:18:01Z)
• Privacy Attack in Federated Learning is Not Easy: An Experimental Study [5.065947993017158]
  フェデレートラーニング(Federated Learning, FL)は、プライバシ保護のために提案される分散機械学習のパラダイムである。 近年の研究では、FLはプライバシー保護を完全に保証できないことが示されている。 プライバシ攻撃FLアルゴリズムが現実的なフェデレーション環境で有効かどうかは不明だ。
  論文  参考訳（メタデータ） (2024-09-28T10:06:34Z)
• Federated Learning: Attacks, Defenses, Opportunities, and Challenges [0.0]
  AIの新しい時代の始まりは連邦学習(FL)だと考える人も多いが、まだ未熟である。 FLは、セキュリティとプライバシーに関する議論があるので、コミュニティの信頼を損なうことはなかった。 本研究はFLのセキュリティとプライバシ機能の完全な概要を提供することを目的としている。
  論文  参考訳（メタデータ） (2024-03-10T03:05:59Z)
• Federated Learning with New Knowledge: Fundamentals, Advances, and Futures [69.8830772538421]
  本稿では,フェデレートラーニング(FL)における新しい知識の源泉を体系的に定義する。 本研究は,新たな知識の到来時期と形態が定式化過程に及ぼす影響について検討する。 シナリオの設定,効率,セキュリティなど,さまざまな要因を考慮し,FLの今後の方向性を新たな知識で論じる。
  論文  参考訳（メタデータ） (2024-02-03T21:29:31Z)
• A Survey of Federated Unlearning: A Taxonomy, Challenges and Future Directions [71.16718184611673]
  プライバシ保護のためのフェデレートラーニング(FL)の進化により、忘れられる権利を実装する必要性が高まっている。 選択的な忘れ方の実装は、その分散した性質のため、FLでは特に困難である。 Federated Unlearning(FU)は、データプライバシの必要性の増加に対応する戦略的ソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-10-30T01:34:33Z)
• A Survey of Trustworthy Federated Learning with Perspectives on Security, Robustness, and Privacy [47.89042524852868]
  Federated Learning (FL) は,さまざまな現実のシナリオに対して,有望なソリューションとして注目されている。 しかし、データの分離とプライバシーに関する課題は、FLシステムの信頼性を脅かす。
  論文  参考訳（メタデータ） (2023-02-21T12:52:12Z)
• Federated Learning Attacks and Defenses: A Survey [6.980116513609015]
  本稿では,現在のFLシステムの攻撃と対応する防御を系統的に分類する。 現在の3つの分類基準、すなわち機械学習の3つの段階、フェデレーション学習における3つの異なる役割、およびプライバシ保護に関するCIAのガイドラインの観点から、我々は、機械学習のトレーニング段階と予測段階に応じて、攻撃アプローチを2つのカテゴリに分割する。
  論文  参考訳（メタデータ） (2022-11-27T22:07:07Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• Privacy and Robustness in Federated Learning: Attacks and Defenses [74.62641494122988]
  このトピックに関する最初の包括的な調査を実施します。 FLの概念の簡潔な紹介と、1脅威モデル、2堅牢性に対する中毒攻撃と防御、3プライバシーに対する推論攻撃と防御、というユニークな分類学を通じて、私たちはこの重要なトピックのアクセス可能なレビューを提供します。
  論文  参考訳（メタデータ） (2020-12-07T12:11:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。