論文の概要: Exploring the Security Boundary of Data Reconstruction via Neuron Exclusivity Analysis

• arxiv url: http://arxiv.org/abs/2010.13356v2
• Date: Wed, 22 Dec 2021 12:27:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 18:29:48.113094
• Title: Exploring the Security Boundary of Data Reconstruction via Neuron Exclusivity Analysis
• Title（参考訳）: ニューロン排他性解析によるデータ再構成のセキュリティ境界の探索
• Authors: Xudong Pan, Mi Zhang, Yifan Yan, Jiaming Zhu, Min Yang
• Abstract要約: 線形整列ユニット(ReLUs)を用いたニューラルネットワーク上の微視的視点による勾配からのデータ再構成のセキュリティ境界について検討する。 ニューラルネットワークの安全性の低い境界にある訓練バッチの再構築において,従来の攻撃よりも大幅に優れる新しい決定論的攻撃アルゴリズムを構築した。
• 参考スコア（独自算出の注目度）: 23.07323180340961
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Among existing privacy attacks on the gradient of neural networks, \emph{data reconstruction attack}, which reverse engineers the training batch from the gradient, poses a severe threat on the private training data. Despite its empirical success on large architectures and small training batches, unstable reconstruction accuracy is also observed when a smaller architecture or a larger batch is under attack. Due to the weak interpretability of existing learning-based attacks, there is little known on why, when and how data reconstruction attack is feasible. In our work, we perform the first analytic study on the security boundary of data reconstruction from gradient via a microcosmic view on neural networks with rectified linear units (ReLUs), the most popular activation function in practice. For the first time, we characterize the insecure/secure boundary of data reconstruction attack in terms of the \emph{neuron exclusivity state} of a training batch, indexed by the number of \emph{\textbf{Ex}clusively \textbf{A}ctivated \textbf{N}eurons} (ExANs, i.e., a ReLU activated by only one sample in a batch). Intuitively, we show a training batch with more ExANs are more vulnerable to data reconstruction attack and vice versa. On the one hand, we construct a novel deterministic attack algorithm which substantially outperforms previous attacks for reconstructing training batches lying in the insecure boundary of a neural network. Meanwhile, for training batches lying in the secure boundary, we prove the impossibility of unique reconstruction, based on which an exclusivity reduction strategy is devised to enlarge the secure boundary for mitigation purposes.
• Abstract（参考訳）: ニューラルネットワークの勾配に対する既存のプライバシ攻撃の中で、勾配からトレーニングバッチをリバースエンジニアする \emph{data reconstruction attack} は、プライベートトレーニングデータに深刻な脅威をもたらす。 大きなアーキテクチャと小さなトレーニングバッチでの経験的な成功にもかかわらず、より小さなアーキテクチャやより大きなバッチが攻撃されている場合、不安定な再構築精度も観測される。 既存の学習ベースの攻撃の弱い解釈可能性のため、なぜ、いつ、どのようにデータ再構成攻撃が実現可能かは分かっていない。 本研究では,線形整列ユニット(ReLU)を用いたニューラルネットワーク上での微視的ビューを通じて,勾配からのデータ再構成のセキュリティ境界に関する最初の解析研究を行った。 最初に、トレーニングバッチのemph{neuron exclusivity state}(emph{\textbf{ex}clusively \textbf{a}ctivated \textbf{n}eurons}(例えば、バッチ内の1つのサンプルのみによって起動されるrelu)の数でインデックスされる、データ再構成攻撃の安全で安全な境界を特徴付ける。 直感的には、より多くのexansがデータレコンストラクション攻撃に弱いトレーニングバッチを示し、その逆も示します。 一方,ニューラルネットワークの安全でない境界にあるトレーニングバッチを再構成するための前回の攻撃を実質的に上回る,新たな決定論的攻撃アルゴリズムを構築した。 一方,セキュアな境界にあるバッチを訓練する場合,安全境界を緩和するために排他的縮小戦略を考案した一意的再構成の不可能性が証明される。

関連論文リスト

• Extracting Spatiotemporal Data from Gradients with Large Language Models [30.785476975412482]
  グラデーションデータから更新できる最近のアップデートは、フェデレートされた学習における重要なプライバシーの約束を破る。 我々は,連合学習における攻撃を軽減するための適応型防衛戦略を提案する。 提案した防衛戦略は,時間的・時間的連合学習の有用性を効果的に保護し,有効に維持できることを示す。
  論文  参考訳（メタデータ） (2024-10-21T15:48:34Z)
• A Practical Trigger-Free Backdoor Attack on Neural Networks [33.426207982772226]
  トレーニングデータへのアクセスを必要としないトリガーフリーのバックドア攻撃を提案する。 具体的には、悪意のあるデータの概念を攻撃者特定クラスの概念に組み込んだ、新しい微調整アプローチを設計する。 提案した攻撃の有効性,実用性,ステルスネスを実世界の3つのデータセットで評価した。
  論文  参考訳（メタデータ） (2024-08-21T08:53:36Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)
• Bounding Reconstruction Attack Success of Adversaries Without Data Priors [53.41619942066895]
  機械学習(ML)モデルに対する再構成攻撃は、機密データの漏洩の強いリスクをもたらす。 本研究では,現実的な対角的環境下での再建成功に関する公式な上限を提供する。
  論文  参考訳（メタデータ） (2024-02-20T09:52:30Z)
• Understanding Reconstruction Attacks with the Neural Tangent Kernel and Dataset Distillation [110.61853418925219]
  我々は、データセット再構築攻撃のより強力なバージョンを構築し、無限の幅で設定されたエンペントリアルトレーニングを確実に回復する方法を示す。 理論的にも経験的にも再構成された画像は、データセットの「外部」に傾向を示す。 これらのリコンストラクション攻撃は, テクストデータセット蒸留において, 再構成画像上で再トレーニングを行い, 高い予測精度を得ることができる。
  論文  参考訳（メタデータ） (2023-02-02T21:41:59Z)
• Reconstructing Training Data from Model Gradient, Provably [68.21082086264555]
  ランダムに選択されたパラメータ値で1つの勾配クエリからトレーニングサンプルを再構成する。 センシティブなトレーニングデータを示す証明可能な攻撃として、われわれの発見はプライバシーに対する深刻な脅威を示唆している。
  論文  参考訳（メタデータ） (2022-12-07T15:32:22Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• Reconstructing Training Data with Informed Adversaries [30.138217209991826]
  機械学習モデルへのアクセスを考えると、敵はモデルのトレーニングデータを再構築できるだろうか? 本研究は、この疑問を、学習データポイントの全てを知っている強力な情報提供者のレンズから研究する。 この厳密な脅威モデルにおいて、残りのデータポイントを再構築することは可能であることを示す。
  論文  参考訳（メタデータ） (2022-01-13T09:19:25Z)
• Meta Adversarial Perturbations [66.43754467275967]
  メタ逆境摂動(MAP)の存在を示す。 MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。 これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
  論文  参考訳（メタデータ） (2021-11-19T16:01:45Z)
• With Great Dispersion Comes Greater Resilience: Efficient Poisoning Attacks and Defenses for Linear Regression Models [28.680562906669216]
  我々は,攻撃者が有害データセットによる回帰学習の結果にどう干渉するかを分析する。 Noptと呼ばれる我々の攻撃は、同じ量の有毒なデータポイントでより大きなエラーを発生させることができる。 新たな防御アルゴリズムであるProdaは,誤りの低減に有効であることを示す。
  論文  参考訳（メタデータ） (2020-06-21T22:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。