論文の概要: privGAN: Protecting GANs from membership inference attacks at low cost

• arxiv url: http://arxiv.org/abs/2001.00071v4
• Date: Sun, 13 Dec 2020 18:27:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-16 20:16:12.874206
• Title: privGAN: Protecting GANs from membership inference attacks at low cost
• Title（参考訳）: privGAN:GANの会員推論攻撃を低コストで防ぐ
• Authors: Sumit Mukherjee, Yixi Xu, Anusua Trivedi, Juan Lavista Ferres
• Abstract要約: Generative Adversarial Networks (GAN)は、合成画像のリリースを、オリジナルのデータセットを公開せずにデータを共有するための実行可能なアプローチにした。 近年の研究では、GANモデルとその合成データを用いて、相手によるトレーニングセットメンバーシップを推測できることが示されている。 ここでは、ジェネレータが識別器を騙すだけでなく、メンバーシップ推論攻撃を防御するために訓練される新しいGANアーキテクチャ(privGAN)を開発する。
• 参考スコア（独自算出の注目度）: 5.735035463793008
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative Adversarial Networks (GANs) have made releasing of synthetic images a viable approach to share data without releasing the original dataset. It has been shown that such synthetic data can be used for a variety of downstream tasks such as training classifiers that would otherwise require the original dataset to be shared. However, recent work has shown that the GAN models and their synthetically generated data can be used to infer the training set membership by an adversary who has access to the entire dataset and some auxiliary information. Current approaches to mitigate this problem (such as DPGAN) lead to dramatically poorer generated sample quality than the original non--private GANs. Here we develop a new GAN architecture (privGAN), where the generator is trained not only to cheat the discriminator but also to defend membership inference attacks. The new mechanism provides protection against this mode of attack while leading to negligible loss in downstream performances. In addition, our algorithm has been shown to explicitly prevent overfitting to the training set, which explains why our protection is so effective. The main contributions of this paper are: i) we propose a novel GAN architecture that can generate synthetic data in a privacy preserving manner without additional hyperparameter tuning and architecture selection, ii) we provide a theoretical understanding of the optimal solution of the privGAN loss function, iii) we demonstrate the effectiveness of our model against several white and black--box attacks on several benchmark datasets, iv) we demonstrate on three common benchmark datasets that synthetic images generated by privGAN lead to negligible loss in downstream performance when compared against non--private GANs.
• Abstract（参考訳）: generative adversarial networks (gans) は、合成画像のリリースを、オリジナルのデータセットをリリースすることなくデータを共有するための有効なアプローチとした。 このような合成データは、元のデータセットを共有する必要がある分類器のトレーニングなど、さまざまな下流タスクに使用できることが示されている。 しかし、近年の研究では、GANモデルとその合成データを用いて、データセット全体といくつかの補助情報にアクセス可能な相手によってトレーニングセットのメンバシップを推測できることが示されている。 この問題を緩和するための現在のアプローチ(DPGANなど)は、元の非民間のGANよりも劇的に貧弱なサンプル品質をもたらす。 ここでは,新たなGANアーキテクチャ (privGAN) を開発し,ジェネレータは識別器を騙すだけでなく,メンバシップ推論攻撃を防御するために訓練される。 新しいメカニズムは、この攻撃モードに対する保護を提供すると同時に、下流のパフォーマンスの無視的な損失につながる。 さらに,我々のアルゴリズムはトレーニングセットへの過度な適合を明示的に防止することが示されており,それが我々の保護がこれほど効果的である理由を説明する。 本論文の主な貢献は次のとおりである。 一 追加のハイパーパラメータチューニングやアーキテクチャ選択を行うことなく、プライバシー保護方式で合成データを生成できる新しいGANアーキテクチャを提案する。 二 privGAN損失関数の最適解に関する理論的理解を提供する。 iii)いくつかのベンチマークデータセットにおけるホワイトボックスおよびブラックボックス攻撃に対するモデルの有効性を実証する。 iv) PrivGAN が生成した合成画像が非プライベート GAN と比較した場合,下流性能の低下を無視できるような3つのベンチマークデータセットを実証した。

関連論文リスト

• Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
  アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。 データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
  論文  参考訳（メタデータ） (2024-07-26T10:49:14Z)
• VFLGAN: Vertical Federated Learning-based Generative Adversarial Network for Vertically Partitioned Data Publication [16.055684281505474]
  本稿では,垂直分割型データパブリッシングのための垂直フェデレート学習に基づく生成広告ネットワーク,VFLGANを提案する。 VFLGANが生成した合成データセットの品質は、VertiGANが生成したデータセットの3.2倍である。 また,合成データセットによるプライバシー漏洩を推定するために,会員推定攻撃を適用した実践的な監査手法を提案する。
  論文  参考訳（メタデータ） (2024-04-15T12:25:41Z)
• Model Stealing Attack against Graph Classification with Authenticity, Uncertainty and Diversity [80.16488817177182]
  GNNは、クエリ許可を通じてターゲットモデルを複製するための悪行であるモデル盗難攻撃に対して脆弱である。 異なるシナリオに対応するために,3つのモデルステルス攻撃を導入する。
  論文  参考訳（メタデータ） (2023-12-18T05:42:31Z)
• Preserving Privacy in GANs Against Membership Inference Attack [30.668589815716775]
  GAN(Generative Adversarial Networks)は、合成データの生成に広く利用されている。 最近の研究では、GANがトレーニングデータサンプルに関する情報を漏洩する可能性があることが示されている。 これにより、GANはメンバーシップ推論アタック(MIA)に脆弱になる
  論文  参考訳（メタデータ） (2023-11-06T15:04:48Z)
• Ownership Protection of Generative Adversarial Networks [9.355840335132124]
  GAN(Generative Adversarial Network)は画像合成において顕著な成功を収めている。 GANの知的財産を技術的に保護することは重要である。 本稿では,対象モデルの共通特性と盗難モデルに基づく新たな所有権保護手法を提案する。
  論文  参考訳（メタデータ） (2023-06-08T14:31:58Z)
• PS-FedGAN: An Efficient Federated Learning Framework Based on Partially Shared Generative Adversarial Networks For Data Privacy [56.347786940414935]
  分散計算のための効果的な学習パラダイムとして、フェデレートラーニング(FL)が登場した。 本研究は,部分的なGANモデル共有のみを必要とする新しいFLフレームワークを提案する。 PS-FedGANと名付けられたこの新しいフレームワークは、異種データ分散に対処するためのGANリリースおよびトレーニングメカニズムを強化する。
  論文  参考訳（メタデータ） (2023-05-19T05:39:40Z)
• A Linear Reconstruction Approach for Attribute Inference Attacks against Synthetic Data [1.5293427903448022]
  合成データに対する新しい属性推論攻撃を導入する。 攻撃は任意の記録でも極めて正確であることを示す。 次に、プライバシー保護と統計ユーティリティ保護のトレードオフを評価する。
  論文  参考訳（メタデータ） (2023-01-24T14:56:36Z)
• Generative Models with Information-Theoretic Protection Against Membership Inference Attacks [6.840474688871695]
  GAN(Generative Adversarial Networks)のような深層生成モデルは、多様な高忠実度データサンプルを合成する。 GANは、訓練されたデータから個人情報を開示し、敵の攻撃を受けやすい可能性がある。 本稿では,生成モデルがトレーニングデータに過度に適合しないようにし,一般化性を奨励する情報理論的動機付け正規化項を提案する。
  論文  参考訳（メタデータ） (2022-05-31T19:29:55Z)
• Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited Data [125.7135706352493]
  GAN(Generative Adversarial Network)は、高忠実度画像を合成するために、訓練に十分なデータを必要とする。 近年の研究では、差別者の過度な適合により、限られたデータでGANを訓練することは困難であることが示されている。 本稿では,APA (Adaptive Pseudo Augmentation) と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-11-12T18:13:45Z)
• Negative Data Augmentation [127.28042046152954]
  負のデータ拡張サンプルは、データ分散のサポートに関する情報を提供することを示す。 我々は、NDAを識別器の合成データの追加源として利用する新しいGAN訓練目標を提案する。 実験により,本手法で訓練したモデルでは,異常検出能力の向上とともに条件付き・条件付き画像生成の改善を実現している。
  論文  参考訳（メタデータ） (2021-02-09T20:28:35Z)
• Partially Conditioned Generative Adversarial Networks [75.08725392017698]
  Generative Adversarial Networks (GAN)は、実世界のトレーニングデータセットの基盤となる確率分布を暗黙的にモデル化することで、人工データセットを合成する。 条件付きGANとその変種の導入により、これらの手法はデータセット内の各サンプルで利用可能な補助情報に基づいて条件付きサンプルを生成するように拡張された。 本研究では,標準条件付きGANがそのようなタスクに適さないことを論じ,新たなAdversarial Networkアーキテクチャとトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2020-07-06T15:59:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。