論文の概要: Black-Box Training Data Identification in GANs via Detector Networks
- arxiv url: http://arxiv.org/abs/2310.12063v1
- Date: Wed, 18 Oct 2023 15:53:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-19 15:56:34.485907
- Title: Black-Box Training Data Identification in GANs via Detector Networks
- Title（参考訳）: 検出器ネットワークによるGANのブラックボックス学習データ同定
- Authors: Lukman Olagoke, Salil Vadhan, Seth Neel
- Abstract要約: 訓練されたGANへのアクセスと、基礎となる分布からの新鮮なサンプルが、攻撃者が与えられたポイントがGANのトレーニングデータのメンバーであるかどうかを効率的に識別できるかどうかを調査する。
これは、著作権のあるデータがGANのトレーニングに使用されたかどうかをユーザが判断したいという著作権に関する理由と、トレーニングセットのメンバシップを検出する能力がメンバシップ推論アタックとして知られているデータプライバシに関する理由の両方に興味深い。
ブラックボックス設定におけるGANに対するメンバーシップ推論攻撃のスイートを導入し、我々の攻撃を評価する。
- 参考スコア（独自算出の注目度）: 2.4554686192257424
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Since their inception Generative Adversarial Networks (GANs) have been
popular generative models across images, audio, video, and tabular data. In
this paper we study whether given access to a trained GAN, as well as fresh
samples from the underlying distribution, if it is possible for an attacker to
efficiently identify if a given point is a member of the GAN's training data.
This is of interest for both reasons related to copyright, where a user may
want to determine if their copyrighted data has been used to train a GAN, and
in the study of data privacy, where the ability to detect training set
membership is known as a membership inference attack. Unlike the majority of
prior work this paper investigates the privacy implications of using GANs in
black-box settings, where the attack only has access to samples from the
generator, rather than access to the discriminator as well. We introduce a
suite of membership inference attacks against GANs in the black-box setting and
evaluate our attacks on image GANs trained on the CIFAR10 dataset and tabular
GANs trained on genomic data. Our most successful attack, called The Detector,
involve training a second network to score samples based on their likelihood of
being generated by the GAN, as opposed to a fresh sample from the distribution.
We prove under a simple model of the generator that the detector is an
approximately optimal membership inference attack. Across a wide range of
tabular and image datasets, attacks, and GAN architectures, we find that
adversaries can orchestrate non-trivial privacy attacks when provided with
access to samples from the generator. At the same time, the attack success
achievable against GANs still appears to be lower compared to other generative
and discriminative models; this leaves the intriguing open question of whether
GANs are in fact more private, or if it is a matter of developing stronger
attacks.
- Abstract（参考訳）: その誕生以来、GAN(Generative Adversarial Networks)は画像、オーディオ、ビデオ、および表データ間で人気の生成モデルとなっている。
本稿では,訓練されたGANへのアクセスと,基礎となる分布からの新鮮なサンプルが,攻撃者が与えられたポイントがGANのトレーニングデータの一部であるかどうかを効率的に識別できるかどうかを検討する。
これは、著作権のあるデータがGANのトレーニングに使用されたかどうかをユーザが判断したいという著作権に関する理由と、トレーニングセットのメンバシップを検出する能力がメンバシップ推論アタックとして知られているデータプライバシに関する理由の両方に興味深い。
これまでの作業の多くとは異なり、この論文では、ブラックボックス設定でGANを使用することによるプライバシーへの影響について検討している。
CIFAR10データセットでトレーニングされた画像GANと、ゲノムデータでトレーニングされた表型GANに対して、ブラックボックス設定でGANに対する一連のメンバーシップ推論攻撃を導入し、我々の攻撃を評価する。
我々の最も成功した攻撃は、検出器と呼ばれ、ganが生成する可能性に基づいてサンプルをスコアする第2のネットワークを訓練することである。
我々は、検出器がほぼ最適なメンバーシップ推論攻撃であることを、ジェネレータの単純なモデルで証明する。
表や画像のデータセット、アタック、GANアーキテクチャの幅広い範囲において、敵はジェネレータからのサンプルへのアクセスを提供すると、非自明なプライバシ攻撃を編成できる。
同時に、GANに対する攻撃の成功は、他の生成的・差別的なモデルと比べて依然として低いように見える。
関連論文リスト
- Membership Inference Attacks against Synthetic Data through Overfitting
Detection [84.02632160692995]
我々は、攻撃者が基礎となるデータ分布についてある程度の知識を持っていると仮定する現実的なMIA設定について論じる。
生成モデルの局所的なオーバーフィッティングをターゲットとして,メンバシップを推論することを目的とした密度ベースMIAモデルであるDOMIASを提案する。
論文 参考訳（メタデータ） (2023-02-24T11:27:39Z) - Pseudo Label-Guided Model Inversion Attack via Conditional Generative
Adversarial Network [102.21368201494909]
モデル反転(MI)攻撃はプライバシーに対する懸念を高めている。
近年のMI攻撃では,探索空間を狭める前にGAN(Generative Adversarial Network)を画像として活用している。
我々は条件付きGAN(cGAN)による擬似ラベル誘導MI(PLG-MI)攻撃を提案する。
論文 参考訳（メタデータ） (2023-02-20T07:29:34Z) - Backdoor Attack and Defense in Federated Generative Adversarial
Network-based Medical Image Synthesis [15.41200827860072]
フェデレートラーニング(FL)は、分散データを使用して、生データをローカルに保持しながら、中央モデルをトレーニングする方法を提供する。
バックドア攻撃には弱いが、訓練データに毒を盛ることによる敵の攻撃である。
ほとんどのバックドア攻撃戦略は、分類モデルと集中型ドメインに焦点を当てている。
本稿では,FL設定におけるバックドア攻撃を効果的かつ効果的に防御するFedDetectを提案する。
論文 参考訳（メタデータ） (2022-10-19T21:03:34Z) - Generative Models with Information-Theoretic Protection Against
Membership Inference Attacks [6.840474688871695]
GAN(Generative Adversarial Networks)のような深層生成モデルは、多様な高忠実度データサンプルを合成する。
GANは、訓練されたデータから個人情報を開示し、敵の攻撃を受けやすい可能性がある。
本稿では,生成モデルがトレーニングデータに過度に適合しないようにし,一般化性を奨励する情報理論的動機付け正規化項を提案する。
論文 参考訳（メタデータ） (2022-05-31T19:29:55Z) - Property Inference Attacks Against GANs [19.443816794076763]
本稿では,GAN(Generative Adversarial Network)に対する最初のトレーニングデータセット特性推論攻撃を提案する。
プロパティ推論攻撃が成功すれば、敵はターゲットのGANのトレーニングデータセットについて余分な知識を得ることができる。
我々は,全ブラックボックス設定と部分ブラックボックス設定を含む2つの攻撃シナリオに合わせて調整可能な汎用アタックパイプラインを提案する。
論文 参考訳（メタデータ） (2021-11-15T08:57:00Z) - This Person (Probably) Exists. Identity Membership Attacks Against GAN
Generated Faces [6.270305440413689]
GAN(Generative Adversarial Network)は、人間のオブザーバーさえも騙して、驚くべきリアリズムを達成した。
GANは、最近文献で証明されたメンバーシップアタックによって証明されているように、トレーニングデータに関する情報をリークする。
本研究では,GANが実際に直面するのは,新しいタイプのメンバシップ攻撃を成功させることによって,新しい創造物である,という仮定に挑戦する。
論文 参考訳（メタデータ） (2021-07-13T12:11:21Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳（メタデータ） (2021-05-30T22:07:13Z) - Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。
我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。
実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
論文 参考訳（メタデータ） (2021-03-06T05:50:29Z) - Backdoor Attack against Speaker Verification [86.43395230456339]
学習データを汚染することにより,話者検証モデルに隠れたバックドアを注入できることを示す。
また,既存のバックドア攻撃が話者認証攻撃に直接適用できないことも実証した。
論文 参考訳（メタデータ） (2020-10-22T11:10:08Z) - Sampling Attacks: Amplification of Membership Inference Attacks by
Repeated Queries [74.59376038272661]
本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。
ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。
防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
論文 参考訳（メタデータ） (2020-09-01T12:54:54Z) - privGAN: Protecting GANs from membership inference attacks at low cost [5.735035463793008]
Generative Adversarial Networks (GAN)は、合成画像のリリースを、オリジナルのデータセットを公開せずにデータを共有するための実行可能なアプローチにした。
近年の研究では、GANモデルとその合成データを用いて、相手によるトレーニングセットメンバーシップを推測できることが示されている。
ここでは、ジェネレータが識別器を騙すだけでなく、メンバーシップ推論攻撃を防御するために訓練される新しいGANアーキテクチャ(privGAN)を開発する。
論文 参考訳（メタデータ） (2019-12-31T20:47:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。