論文の概要: Evaluating Gradient Inversion Attacks and Defenses in Federated Learning

• arxiv url: http://arxiv.org/abs/2112.00059v1
• Date: Tue, 30 Nov 2021 19:34:16 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-03 06:17:45.749690
• Title: Evaluating Gradient Inversion Attacks and Defenses in Federated Learning
• Title（参考訳）: フェデレーション学習における勾配反転攻撃と防御の評価
• Authors: Yangsibo Huang, Samyak Gupta, Zhao Song, Kai Li, Sanjeev Arora
• Abstract要約: 本稿では,既存の攻撃と,勾配反転攻撃に対する防御について検討する。 提案する3つの防御機構のプライバシー漏洩とデータユーティリティのトレードオフを示す。 我々の研究結果は、現在最先端の攻撃は、小さなデータユーティリティー損失で防御可能であることを示唆している。
• 参考スコア（独自算出の注目度）: 43.993693910541275
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gradient inversion attack (or input recovery from gradient) is an emerging threat to the security and privacy preservation of Federated learning, whereby malicious eavesdroppers or participants in the protocol can recover (partially) the clients' private data. This paper evaluates existing attacks and defenses. We find that some attacks make strong assumptions about the setup. Relaxing such assumptions can substantially weaken these attacks. We then evaluate the benefits of three proposed defense mechanisms against gradient inversion attacks. We show the trade-offs of privacy leakage and data utility of these defense methods, and find that combining them in an appropriate manner makes the attack less effective, even under the original strong assumptions. We also estimate the computation cost of end-to-end recovery of a single image under each evaluated defense. Our findings suggest that the state-of-the-art attacks can currently be defended against with minor data utility loss, as summarized in a list of potential strategies. Our code is available at: https://github.com/Princeton-SysML/GradAttack.
• Abstract（参考訳）: 勾配反転攻撃(または勾配からの入力回復)は、連合学習のセキュリティとプライバシーの保護に対する新たな脅威であり、悪意のある盗聴者やプロトコルの参加者がクライアントのプライベートデータを(部分的に)回復することができる。 本稿では,既存の攻撃と防御について述べる。 いくつかの攻撃は、設定について強い前提を定めている。 このような仮定を緩和することはこれらの攻撃を著しく弱める。 次に, 勾配反転攻撃に対する3つの防御機構の利点を評価する。 プライバシリークのトレードオフと,これらの防御手法のデータ有効性を示し,これらを適切な方法で組み合わせることで,元の強い前提の下でも攻撃効果が低下することを示す。 また,評価された各防御条件下での単一画像のエンドツーエンド回復の計算コストを推定した。 以上の結果から,現状の攻撃は,潜在的戦略の一覧にまとめられたように,少なからぬデータ損失で防御可能であることが示唆された。 私たちのコードは、https://github.com/Princeton-SysML/GradAttack.comで利用可能です。

関連論文リスト

• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• OASIS: Offsetting Active Reconstruction Attacks in Federated Learning [14.644814818768172]
  Federated Learning(FL)は、ユーザプライバシ保護の可能性に関して、大きな注目を集めている。 近年の研究では、FLプロトコルがアクティブリコンストラクションアタックによって容易に損なわれることが示されている。 本稿では,画像拡張に基づく防御機構を提案し,能動的再建攻撃を効果的に防止する。
  論文  参考訳（メタデータ） (2023-11-23T00:05:17Z)
• Rethinking Backdoor Attacks [122.1008188058615]
  バックドア攻撃では、悪意ある構築されたバックドアの例をトレーニングセットに挿入し、結果のモデルを操作に脆弱にする。 このような攻撃に対する防御は、典型的には、これらの挿入された例をトレーニングセットの外れ値として見ることと、堅牢な統計からのテクニックを使用してそれらを検出し、削除することである。 トレーニングデータ分布に関する構造情報がなければ,バックドア攻撃は自然に発生するデータの特徴と区別できないことを示す。
  論文  参考訳（メタデータ） (2023-07-19T17:44:54Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• LearnDefend: Learning to Defend against Targeted Model-Poisoning Attacks on Federated Learning [15.649086996679914]
  近年の研究では、入力空間のごく一部を標的とするエッジケース攻撃は、既存の固定防御戦略で対処することがほぼ不可能であることが示された。 本稿では,このような攻撃に対する学習防御戦略を,小さな防衛データセットを用いて設計する。 提案されたフレームワークであるLearnDefendは、クライアント更新が悪意がある確率を推定する。
  論文  参考訳（メタデータ） (2023-05-03T10:20:26Z)
• Learning to Invert: Simple Adaptive Attacks for Gradient Inversion in Federated Learning [31.374376311614675]
  グラディエント・インバージョン・アタックは、フェデレート学習におけるモデル勾配からのトレーニングサンプルの回復を可能にする。 既存の防御は、単純な適応攻撃によって破壊される可能性があることを示す。
  論文  参考訳（メタデータ） (2022-10-19T20:41:30Z)
• Defense Against Gradient Leakage Attacks via Learning to Obscure Data [48.67836599050032]
  フェデレートラーニングは、効果的なプライバシー保護学習メカニズムと考えられている。 本稿では,不明瞭なデータに学習することで,クライアントのデータ保護のための新しい防御手法を提案する。
  論文  参考訳（メタデータ） (2022-06-01T21:03:28Z)
• Certifiers Make Neural Networks Vulnerable to Availability Attacks [70.69104148250614]
  私たちは初めて、逆転戦略が敵によって意図的に引き起こされる可能性があることを示します。 いくつかの入力や摂動のために自然に発生する障害に加えて、敵は故意にフォールバックを誘発するために訓練時間攻撃を使用することができる。 我々は2つの新しいアベイラビリティーアタックを設計し、これらの脅威の実用的妥当性を示す。
  論文  参考訳（メタデータ） (2021-08-25T15:49:10Z)
• Mitigating Gradient-based Adversarial Attacks via Denoising and Compression [7.305019142196582]
  深層ニューラルネットワークに対する勾配に基づく逆攻撃は深刻な脅威となる。 それらは、任意のネットワークのテストデータに不可避な摂動を追加することでデプロイできる。 デノイジングと寸法減少は、そのような攻撃に対抗するために調査された2つの異なる方法である。
  論文  参考訳（メタデータ） (2021-04-03T22:57:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。