論文の概要: Exploring Adversarial Fake Images on Face Manifold

• arxiv url: http://arxiv.org/abs/2101.03272v1
• Date: Sat, 9 Jan 2021 02:08:59 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-09 12:36:04.270258
• Title: Exploring Adversarial Fake Images on Face Manifold
• Title（参考訳）: 顔マニフォールド上の逆向きフェイク画像の探索
• Authors: Dongze Li, Wei Wang, Hongxing Fan, Jing Dong
• Abstract要約: 強力な生成敵対ネットワーク(GAN)ベースの方法によって合成された画像は、道徳的およびプライバシー上の懸念を引き起こしている。 本稿では, 対向雑音を付加する代わりに, 顔多様体上の対向点を最適に探索し, 反forensic fake face imageを生成する。
• 参考スコア（独自算出の注目度）: 5.26916168336451
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Images synthesized by powerful generative adversarial network (GAN) based methods have drawn moral and privacy concerns. Although image forensic models have reached great performance in detecting fake images from real ones, these models can be easily fooled with a simple adversarial attack. But, the noise adding adversarial samples are also arousing suspicion. In this paper, instead of adding adversarial noise, we optimally search adversarial points on face manifold to generate anti-forensic fake face images. We iteratively do a gradient-descent with each small step in the latent space of a generative model, e.g. Style-GAN, to find an adversarial latent vector, which is similar to norm-based adversarial attack but in latent space. Then, the generated fake images driven by the adversarial latent vectors with the help of GANs can defeat main-stream forensic models. For examples, they make the accuracy of deepfake detection models based on Xception or EfficientNet drop from over 90% to nearly 0%, meanwhile maintaining high visual quality. In addition, we find manipulating style vector $z$ or noise vectors $n$ at different levels have impacts on attack success rate. The generated adversarial images mainly have facial texture or face attributes changing.
• Abstract（参考訳）: 強力な生成的敵ネットワーク(GAN)に基づく画像は、道徳的・プライバシー的な懸念を招いている。 画像鑑識モデルは実際の画像から偽画像を検出することで大きな成果を上げているが、これらのモデルは単純な敵の攻撃で簡単に騙すことができる。 しかし、反対のサンプルを付加するノイズも疑念を呼んでいる。 本稿では, 対向雑音を付加する代わりに, 顔多様体上の対向点を最適に探索し, 反forensic fake face imageを生成する。 我々は、生成モデルの潜在空間において、各小さなステップで勾配線を反復的に行う。 スタイルGANは、ノルムベースの逆数攻撃に似ているが潜時空間にある逆数ベクトルを見つける。 そして、GANの助けを借りて、逆潜伏ベクトルによって駆動される偽画像は、メインストリームの法医学モデルに打ち勝つことができる。 例えば、xception や efficientnet に基づくディープフェイク検出モデルの精度は、90% 以上から 0% 近くまで低下し、一方で高い視覚品質を維持している。 さらに、異なるレベルのノイズベクトル$n$が攻撃成功率に影響を与えるような、スタイルベクトル$z$を操作していることも分かりました。 生成した対向画像は、主に顔のテクスチャや顔の属性が変化する。

関連論文リスト

• UniForensics: Face Forgery Detection via General Facial Representation [60.5421627990707]
  高レベルの意味的特徴は摂動の影響を受けにくく、フォージェリー固有の人工物に限らないため、より強い一般化がある。 我々は、トランスフォーマーベースのビデオネットワークを活用する新しいディープフェイク検出フレームワークUniForensicsを導入し、顔の豊かな表現のためのメタファンクショナルな顔分類を行う。
  論文  参考訳（メタデータ） (2024-07-26T20:51:54Z)
• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Breaking Free: How to Hack Safety Guardrails in Black-Box Diffusion Models! [52.0855711767075]
  EvoSeedは、フォトリアリスティックな自然対向サンプルを生成するための進化戦略に基づくアルゴリズムフレームワークである。 我々は,CMA-ESを用いて初期種ベクトルの探索を最適化し,条件付き拡散モデルで処理すると,自然逆数サンプルをモデルで誤分類する。 実験の結果, 生成した対向画像は画像品質が高く, 安全分類器を通過させることで有害なコンテンツを生成する懸念が高まっていることがわかった。
  論文  参考訳（メタデータ） (2024-02-07T09:39:29Z)
• Evading Forensic Classifiers with Attribute-Conditioned Adversarial Faces [6.105361899083232]
  本研究では,特定の属性セットを用いて,敵対的な偽の顔を生成することができることを示す。 本稿では,StyleGANの機能空間内の逆潜時符号を探索するフレームワークを提案する。 また,メタラーニングに基づく最適化手法を提案し,未知のターゲットモデル上でのトランスファー可能な性能を実現する。
  論文  参考訳（メタデータ） (2023-06-22T17:59:55Z)
• Black-Box Attack against GAN-Generated Image Detector with Contrastive Perturbation [0.4297070083645049]
  GAN生成画像検出器に対する新しいブラックボックス攻撃法を提案する。 エンコーダ・デコーダネットワークに基づく反法学モデルのトレーニングには,新たなコントラスト学習戦略が採用されている。 提案した攻撃は、6つの一般的なGAN上での3つの最先端検出器の精度を効果的に低減する。
  論文  参考訳（メタデータ） (2022-11-07T12:56:14Z)
• Restricted Black-box Adversarial Attack Against DeepFake Face Swapping [70.82017781235535]
  本稿では,顔画像偽造モデルに対する問い合わせを一切必要としない現実的な敵攻撃を提案する。 本手法は,顔の再構成を行う代用モデルに基づいて構築され,置換モデルから非アクセス可能なブラックボックスDeepFakeモデルへの逆例を直接転送する。
  論文  参考訳（メタデータ） (2022-04-26T14:36:06Z)
• Exploring Frequency Adversarial Attacks for Face Forgery Detection [59.10415109589605]
  フェースフォージェリ検出器に対する周波数対向攻撃法を提案する。 また,メタラーニングの概念に触発されて,空間領域と周波数領域の両方で攻撃を行うハイブリッド逆攻撃を提案する。
  論文  参考訳（メタデータ） (2022-03-29T15:34:13Z)
• CMUA-Watermark: A Cross-Model Universal Adversarial Watermark for Combating Deepfakes [74.18502861399591]
  ディープフェイクの悪意ある応用(すなわち、テクノロジーはターゲットの顔や顔の特徴を生成できる)は、我々の社会に大きな脅威をもたらしている。 本稿では,深層圏モデルに対する普遍的敵攻撃法を提案し,CMUA-Watermark(CMUA-Watermark)を作成した。 実験の結果,提案したCMUA-Watermarkはディープフェイクモデルによって生成された偽の顔画像を効果的に歪めることができることがわかった。
  論文  参考訳（メタデータ） (2021-05-23T07:28:36Z)
• Perception Matters: Exploring Imperceptible and Transferable Anti-forensics for GAN-generated Fake Face Imagery Detection [28.620523463372177]
  GAN(Generative Adversarial Network)は、実際の顔写真と知覚的に区別できない、写真リアルな偽の顔画像を生成することができる。 ここでは、敵対的攻撃に基づく偽顔画像検出のための、よりテクスチアンペアブルでテクスティットトランスファーブルなアンチフォレンジックを探索する。 本稿では,視覚的知覚を考慮し,色領域が変化した場合に,画像の反法医学に適する新たな対角攻撃法を提案する。
  論文  参考訳（メタデータ） (2020-10-29T18:54:06Z)
• Defending against GAN-based Deepfake Attacks via Transformation-aware Adversarial Faces [36.87244915810356]
  Deepfakeは、機械学習モデルを活用するフェイススワッピング攻撃のカテゴリである。 本稿では,Deepfake攻撃に対する防御手段として,逆向きに乱れする新しい変形認識顔を提案する。 また, アンサンブルをベースとしたアプローチを用いて, GANベースのディープフェイク型に対する防御ロバスト性を高めることを提案する。
  論文  参考訳（メタデータ） (2020-06-12T18:51:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。