論文の概要: Restricted Black-box Adversarial Attack Against DeepFake Face Swapping

• arxiv url: http://arxiv.org/abs/2204.12347v1
• Date: Tue, 26 Apr 2022 14:36:06 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-27 16:43:11.991418
• Title: Restricted Black-box Adversarial Attack Against DeepFake Face Swapping
• Title（参考訳）: ディープフェイク・フェイススワッピングに対するブラックボックス攻撃の制限
• Authors: Junhao Dong, Yuan Wang, Jianhuang Lai, Xiaohua Xie
• Abstract要約: 本稿では,顔画像偽造モデルに対する問い合わせを一切必要としない現実的な敵攻撃を提案する。 本手法は,顔の再構成を行う代用モデルに基づいて構築され,置換モデルから非アクセス可能なブラックボックスDeepFakeモデルへの逆例を直接転送する。
• 参考スコア（独自算出の注目度）: 70.82017781235535
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: DeepFake face swapping presents a significant threat to online security and social media, which can replace the source face in an arbitrary photo/video with the target face of an entirely different person. In order to prevent this fraud, some researchers have begun to study the adversarial methods against DeepFake or face manipulation. However, existing works focus on the white-box setting or the black-box setting driven by abundant queries, which severely limits the practical application of these methods. To tackle this problem, we introduce a practical adversarial attack that does not require any queries to the facial image forgery model. Our method is built on a substitute model persuing for face reconstruction and then transfers adversarial examples from the substitute model directly to inaccessible black-box DeepFake models. Specially, we propose the Transferable Cycle Adversary Generative Adversarial Network (TCA-GAN) to construct the adversarial perturbation for disrupting unknown DeepFake systems. We also present a novel post-regularization module for enhancing the transferability of generated adversarial examples. To comprehensively measure the effectiveness of our approaches, we construct a challenging benchmark of DeepFake adversarial attacks for future development. Extensive experiments impressively show that the proposed adversarial attack method makes the visual quality of DeepFake face images plummet so that they are easier to be detected by humans and algorithms. Moreover, we demonstrate that the proposed algorithm can be generalized to offer face image protection against various face translation methods.
• Abstract（参考訳）: ディープフェイク・フェイススワップは、オンラインのセキュリティとソーシャルメディアに重大な脅威をもたらし、任意の写真やビデオのソース・フェイスを、まったく異なる人物のターゲット・フェイスに置き換えることができる。 この不正を防ぐために、ディープフェイクや顔操作に対する敵対的手法の研究を始めた研究者もいる。 しかし、既存の作品では、大量のクエリによって駆動されるホワイトボックス設定やブラックボックス設定に焦点が当てられている。 この問題に対処するために,顔画像偽造モデルに対する問い合わせを一切必要としない現実的な敵攻撃を導入する。 本手法は,顔の再構成を行う代用モデルに基づいて構築され,置換モデルから非アクセス可能なブラックボックスDeepFakeモデルへの逆例を直接転送する。 具体的には、未知のDeepFakeシステムを破壊するための逆摂動を構築するために、Transferable Cycle Adversary Generative Adversarial Network (TCA-GAN)を提案する。 また, 生成した逆例の転送性を高めるために, 新たなポストレギュライゼーションモジュールを提案する。 提案手法の有効性を包括的に評価するために,DeepFake の敵攻撃に対する挑戦的なベンチマークを構築した。 大規模な実験により、提案手法により、DeepFakeの顔画像の視覚的品質が低下し、人間やアルゴリズムによる検出が容易になることが示された。 さらに,提案アルゴリズムを一般化し,様々な顔変換手法に対する顔画像保護を実現することを実証する。

関連論文リスト

• ID-Guard: A Universal Framework for Combating Facial Manipulation via Breaking Identification [60.73617868629575]
  深層学習に基づく顔操作の誤用は、公民権に対する潜在的な脅威となる。 この不正行為を防ぐため、プロアクティブな防御技術が提案され、操作プロセスを妨害した。 我々は,ID-Guardと呼ばれる,顔操作と戦うための新しい普遍的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-09-20T09:30:08Z)
• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Exploring Decision-based Black-box Attacks on Face Forgery Detection [53.181920529225906]
  顔の偽造生成技術は鮮明な顔を生み出し、セキュリティとプライバシーに対する世間の懸念を高めている。 顔偽造検出は偽の顔の識別に成功しているが、最近の研究では顔偽造検出は敵の例に対して非常に脆弱であることが示されている。
  論文  参考訳（メタデータ） (2023-10-18T14:49:54Z)
• FakeTracer: Catching Face-swap DeepFakes via Implanting Traces in Training [36.158715089667034]
  Face-swap DeepFakeは、AIベースの顔偽造技術だ。 顔のプライバシーが高いため、この手法の誤用は深刻な社会的懸念を引き起こす可能性がある。 本稿では,FakeTracerと呼ばれる新しいプロアクティブ防御手法について述べる。
  論文  参考訳（メタデータ） (2023-07-27T02:36:13Z)
• Information-containing Adversarial Perturbation for Combating Facial Manipulation Systems [19.259372985094235]
  ディープラーニングシステムの悪意ある応用は個人のプライバシーと評判に深刻な脅威をもたらす。 IAP(Information- containing Adversarial Perturbation)と呼ばれる新しい2層保護手法を提案する。 エンコーダを用いて、顔画像とその識別メッセージを、複数の顔操作システムを妨害できるクロスモデル対向例にマッピングする。
  論文  参考訳（メタデータ） (2023-03-21T06:48:14Z)
• Initiative Defense against Facial Manipulation [82.96864888025797]
  本稿では,悪意あるユーザによって制御される顔操作モデルの性能を低下させるための,イニシアティブ・ディフェンスの新しい枠組みを提案する。 まず、サロゲートモデルを用いてターゲット操作モデルを模倣し、次に毒の摂動発生器を考案し、所望の毒を得る。
  論文  参考訳（メタデータ） (2021-12-19T09:42:28Z)
• CMUA-Watermark: A Cross-Model Universal Adversarial Watermark for Combating Deepfakes [74.18502861399591]
  ディープフェイクの悪意ある応用(すなわち、テクノロジーはターゲットの顔や顔の特徴を生成できる)は、我々の社会に大きな脅威をもたらしている。 本稿では,深層圏モデルに対する普遍的敵攻撃法を提案し,CMUA-Watermark(CMUA-Watermark)を作成した。 実験の結果,提案したCMUA-Watermarkはディープフェイクモデルによって生成された偽の顔画像を効果的に歪めることができることがわかった。
  論文  参考訳（メタデータ） (2021-05-23T07:28:36Z)
• Vulnerability of Face Recognition Systems Against Composite Face Reconstruction Attack [3.3707422585608953]
  ラウンド信頼スコアは自明であるが、勾配降下画像再構成攻撃を阻止するためのシンプルで効果的な対策であると考えられる。 本稿では, 複合顔を用いた顔復元攻撃が, 丸め政策の非効率性を明らかにすることを実証する。
  論文  参考訳（メタデータ） (2020-08-23T03:37:51Z)
• Defending against GAN-based Deepfake Attacks via Transformation-aware Adversarial Faces [36.87244915810356]
  Deepfakeは、機械学習モデルを活用するフェイススワッピング攻撃のカテゴリである。 本稿では,Deepfake攻撃に対する防御手段として,逆向きに乱れする新しい変形認識顔を提案する。 また, アンサンブルをベースとしたアプローチを用いて, GANベースのディープフェイク型に対する防御ロバスト性を高めることを提案する。
  論文  参考訳（メタデータ） (2020-06-12T18:51:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。