Fugu-MT 論文翻訳(概要): Prediction Exposes Your Face: Black-box Model Inversion via Prediction Alignment

論文の概要: Prediction Exposes Your Face: Black-box Model Inversion via Prediction Alignment

arxiv url: http://arxiv.org/abs/2407.08127v1
Date: Thu, 11 Jul 2024 01:58:35 GMT
ステータス: 処理完了
システム内更新日: 2024-07-12 19:18:18.590110
Title: Prediction Exposes Your Face: Black-box Model Inversion via Prediction Alignment
Title（参考訳）: 顔の予測:予測アライメントによるブラックボックスモデルインバージョン
Authors: Yufan Liu, Wanqian Zhang, Dayan Wu, Zheng Lin, Jingzi Gu, Weiping Wang,
Abstract要約: モデル反転(MI)攻撃は、その出力から対象モデルのプライベートトレーニングデータを再構成する。ブラックボックスMI攻撃のための予測画像P2I手法を提案する。本手法は,攻撃精度を8.5%向上し,データセットCelebAのクエリ数を99%削減する。
参考スコア（独自算出の注目度）: 24.049615035939237
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Model inversion (MI) attack reconstructs the private training data of a target model given its output, posing a significant threat to deep learning models and data privacy. On one hand, most of existing MI methods focus on searching for latent codes to represent the target identity, yet this iterative optimization-based scheme consumes a huge number of queries to the target model, making it unrealistic especially in black-box scenario. On the other hand, some training-based methods launch an attack through a single forward inference, whereas failing to directly learn high-level mappings from prediction vectors to images. Addressing these limitations, we propose a novel Prediction-to-Image (P2I) method for black-box MI attack. Specifically, we introduce the Prediction Alignment Encoder to map the target model's output prediction into the latent code of StyleGAN. In this way, prediction vector space can be well aligned with the more disentangled latent space, thus establishing a connection between prediction vectors and the semantic facial features. During the attack phase, we further design the Aligned Ensemble Attack scheme to integrate complementary facial attributes of target identity for better reconstruction. Experimental results show that our method outperforms other SOTAs, e.g.,compared with RLB-MI, our method improves attack accuracy by 8.5% and reduces query numbers by 99% on dataset CelebA.
Abstract（参考訳）: モデル反転(MI)攻撃は、その出力からターゲットモデルのプライベートトレーニングデータを再構築し、ディープラーニングモデルとデータプライバシに重大な脅威をもたらす。一方、既存のMIメソッドのほとんどは、ターゲットのアイデンティティを表現するために潜在コードを探すことに重点を置いているが、この反復最適化ベースのスキームはターゲットモデルに対する膨大なクエリを消費し、特にブラックボックスシナリオでは非現実的である。一方、トレーニングベースの手法では、1つのフォワード推論を通じて攻撃を起動するが、予測ベクトルからイメージへの高レベルマッピングを直接学習することはできなかった。これらの制約に対処し、ブラックボックスMI攻撃のための新しい予測画像(P2I)手法を提案する。具体的には、予測アライメントエンコーダを導入し、ターゲットモデルの出力予測をStyleGANの潜在コードにマッピングする。このように、予測ベクトル空間はより不整合な潜在空間と整合し、予測ベクトルと意味的な顔の特徴との接続を確立することができる。攻撃の段階では、アラインド・アンサンブル・アスキームを設計し、ターゲットアイデンティティの相補的な顔属性を統合して、より良い再構築を行う。実験の結果,RLB-MIとの比較により,本手法は他のSOTA,例えばRLB-MIよりも高い精度で攻撃精度が8.5%向上し,データセットCelebAではクエリ数が99%向上した。

関連論文リスト

Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
モデルアタック(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
論文参考訳（メタデータ） (2024-07-16T06:38:49Z)
Distributional Black-Box Model Inversion Attack with Multi-Agent Reinforcement Learning [19.200221582814518]
本稿では,ターゲットのプライバシデータを検索する確率的潜在空間を構築することで,DBB-MI(Distributedal Black-Box Model Inversion)攻撃を提案する。潜在確率分布は、潜在空間におけるターゲットプライバシデータと密接に一致しているため、回収されたデータは、ターゲットモデルのトレーニングサンプルのプライバシを著しくリークする。多様なデータセットやネットワーク上で行った実験から,現在のDBB-MIは,攻撃精度,Kアレスト近傍の特徴距離,Pak Signal-to-Noise比よりも優れた性能を示している。
論文参考訳（メタデータ） (2024-04-22T04:18:38Z)
Breaking the Black-Box: Confidence-Guided Model Inversion Attack for Distribution Shift [0.46040036610482665]
モデル反転攻撃(MIA)は、ターゲットクラスの特性を反映した合成画像を生成することにより、ターゲット分類器のプライベートトレーニングデータを推論しようとする。これまでの研究はターゲットモデルへの完全なアクセスに依存してきたが、現実のシナリオでは実用的ではない。本稿では,CG-MIと呼ばれるtextbfConfidence-textbfGuided textbfModel textbfInversion攻撃法を提案する。
論文参考訳（メタデータ） (2024-02-28T03:47:17Z)
Unstoppable Attack: Label-Only Model Inversion via Conditional Diffusion Model [14.834360664780709]
モデルアタック(MIA)は、深層学習モデルの到達不可能なトレーニングセットからプライベートデータを復元することを目的としている。そこで本研究では,条件拡散モデル(CDM)を応用したMIA手法を開発し,対象ラベル下でのサンプルの回収を行う。実験結果から,本手法は従来手法よりも高い精度で類似したサンプルをターゲットラベルに生成できることが示唆された。
論文参考訳（メタデータ） (2023-07-17T12:14:24Z)
Pseudo Label-Guided Model Inversion Attack via Conditional Generative Adversarial Network [102.21368201494909]
モデル反転(MI)攻撃はプライバシーに対する懸念を高めている。近年のMI攻撃では,探索空間を狭める前にGAN(Generative Adversarial Network)を画像として活用している。我々は条件付きGAN(cGAN)による擬似ラベル誘導MI(PLG-MI)攻撃を提案する。
論文参考訳（メタデータ） (2023-02-20T07:29:34Z)
AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
論文参考訳（メタデータ） (2022-09-19T03:34:59Z)
How to Robustify Black-Box ML Models? A Zeroth-Order Optimization Perspective [74.47093382436823]
入力クエリと出力フィードバックだけでブラックボックスモデルを堅牢化する方法? 我々は,ブラックボックスモデルに適用可能な防御操作の一般的な概念を提案し,それを復号化スムーシング(DS)のレンズを通して設計する。我々は,ZO-AE-DSが既存のベースラインよりも精度,堅牢性,クエリの複雑さを向上できることを実証的に示す。
論文参考訳（メタデータ） (2022-03-27T03:23:32Z)
Label-Only Model Inversion Attacks via Boundary Repulsion [12.374249336222906]
対象モデルの予測ラベルのみを用いて,プライベートトレーニングデータを逆転するアルゴリズムを提案する。顔認識の例を用いて、BREP-MIで再構成した画像は、プライベートトレーニングデータのセマンティクスを再現することに成功した。
論文参考訳（メタデータ） (2022-03-03T18:57:57Z)
Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
論文参考訳（メタデータ） (2021-02-21T03:13:27Z)
Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
論文参考訳（メタデータ） (2020-10-08T16:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。