論文の概要: Evading Forensic Classifiers with Attribute-Conditioned Adversarial Faces

• arxiv url: http://arxiv.org/abs/2306.13091v1
• Date: Thu, 22 Jun 2023 17:59:55 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-23 13:19:29.522492
• Title: Evading Forensic Classifiers with Attribute-Conditioned Adversarial Faces
• Title（参考訳）: 属性条件付き逆顔による法医学的分類器の回避
• Authors: Fahad Shamshad, Koushik Srivatsan, Karthik Nandakumar
• Abstract要約: 本研究では,特定の属性セットを用いて,敵対的な偽の顔を生成することができることを示す。 本稿では,StyleGANの機能空間内の逆潜時符号を探索するフレームワークを提案する。 また,メタラーニングに基づく最適化手法を提案し,未知のターゲットモデル上でのトランスファー可能な性能を実現する。
• 参考スコア（独自算出の注目度）: 6.105361899083232
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The ability of generative models to produce highly realistic synthetic face images has raised security and ethical concerns. As a first line of defense against such fake faces, deep learning based forensic classifiers have been developed. While these forensic models can detect whether a face image is synthetic or real with high accuracy, they are also vulnerable to adversarial attacks. Although such attacks can be highly successful in evading detection by forensic classifiers, they introduce visible noise patterns that are detectable through careful human scrutiny. Additionally, these attacks assume access to the target model(s) which may not always be true. Attempts have been made to directly perturb the latent space of GANs to produce adversarial fake faces that can circumvent forensic classifiers. In this work, we go one step further and show that it is possible to successfully generate adversarial fake faces with a specified set of attributes (e.g., hair color, eye size, race, gender, etc.). To achieve this goal, we leverage the state-of-the-art generative model StyleGAN with disentangled representations, which enables a range of modifications without leaving the manifold of natural images. We propose a framework to search for adversarial latent codes within the feature space of StyleGAN, where the search can be guided either by a text prompt or a reference image. We also propose a meta-learning based optimization strategy to achieve transferable performance on unknown target models. Extensive experiments demonstrate that the proposed approach can produce semantically manipulated adversarial fake faces, which are true to the specified attribute set and can successfully fool forensic face classifiers, while remaining undetectable by humans. Code: https://github.com/koushiksrivats/face_attribute_attack.
• Abstract（参考訳）: 生成モデルが高度にリアルな合成顔画像を生成する能力は、セキュリティと倫理的懸念を高めている。 このような偽の顔に対する防御の第一線として、深層学習に基づく法科学分類器が開発された。 これらの法医学モデルでは、顔画像が合成であるかリアルであるかを高い精度で検出できるが、敵の攻撃に対して脆弱である。 このような攻撃は、法医学的分類器による検出を回避できるが、注意深い人間の検査によって検出可能な可視的ノイズパターンを導入する。 加えて、これらの攻撃は必ずしも真とは限らないターゲットモデルへのアクセスを想定している。 GANの潜伏空間を直接摂動して、法医学的分類を回避できる敵対的な偽の顔を作り出す試みが試みられている。 本研究ではさらに一歩進めて,特定の属性(髪色,目の大きさ,人種,性別など)を用いて,敵対的な偽顔を生成することができることを示した。 この目的を達成するために,不連続表現を持つ最先端生成モデルstyleganを活用し,自然画像の多様体を残さずに様々な修正が可能となる。 本稿では,テキストプロンプトや参照画像によって検索をガイドできるStyleGANの機能空間内で,逆潜時符号を探索するフレームワークを提案する。 また,未知対象モデルにおける転送可能性能を実現するためのメタラーニングに基づく最適化戦略を提案する。 大規模な実験により,提案手法は特定の属性セットに忠実で,法医学的顔分類器を騙すことができる一方で,人間によって検出不能なまま,意味的に操作された逆顔を生成することができることが示された。 コード: https://github.com/koushiksrivats/face_attribute_attack.com

関連論文リスト

• UniForensics: Face Forgery Detection via General Facial Representation [60.5421627990707]
  高レベルの意味的特徴は摂動の影響を受けにくく、フォージェリー固有の人工物に限らないため、より強い一般化がある。 我々は、トランスフォーマーベースのビデオネットワークを活用する新しいディープフェイク検出フレームワークUniForensicsを導入し、顔の豊かな表現のためのメタファンクショナルな顔分類を行う。
  論文  参考訳（メタデータ） (2024-07-26T20:51:54Z)
• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Semantic Contextualization of Face Forgery: A New Definition, Dataset, and Detection Method [77.65459419417533]
  我々は,顔フォージェリを意味的文脈に配置し,意味的顔属性を変更する計算手法が顔フォージェリの源であることを定義した。 階層的なグラフで整理されたラベルの集合に各画像が関連付けられている大規模な顔偽画像データセットを構築した。 本稿では,ラベル関係を捕捉し,その優先課題を優先するセマンティクス指向の顔偽造検出手法を提案する。
  論文  参考訳（メタデータ） (2024-05-14T10:24:19Z)
• Counterfactual Explanations for Face Forgery Detection via Adversarial Removal of Artifacts [23.279652897139286]
  ディープフェイクとして知られる、非常にリアルなAI生成顔偽造は、深刻な社会的懸念を引き起こしている。 本稿では,人工物除去の観点からの顔偽造検出の非現実的説明を行う。 本手法は,90%以上の攻撃成功率と優れた攻撃伝達性を実現する。
  論文  参考訳（メタデータ） (2024-04-12T09:13:37Z)
• Poisoned Forgery Face: Towards Backdoor Attacks on Face Forgery Detection [62.595450266262645]
  本稿では,バックドア攻撃による顔偽造検出の新たな脅威について紹介する。 バックドアをモデルに埋め込むことで、攻撃者は検知器を騙して偽造された顔の誤予測を発生させることができる。 我々は,顔偽造検知器に対するクリーンラベルバックドア攻撃を可能にするemphPoisoned Forgery Faceフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-18T06:31:05Z)
• Building an Invisible Shield for Your Portrait against Deepfakes [34.65356811439098]
  本稿では,画像のプロアクティブな保護を目的とした新しいフレームワーク,Integity Encryptorを提案する。 提案手法では,重要な顔属性と密接な関係を持つメッセージを,秘密に符号化する。 修正された顔属性は、デコードされたメッセージの比較を通じて、操作された画像を検出する手段として機能する。
  論文  参考訳（メタデータ） (2023-05-22T10:01:28Z)
• Restricted Black-box Adversarial Attack Against DeepFake Face Swapping [70.82017781235535]
  本稿では,顔画像偽造モデルに対する問い合わせを一切必要としない現実的な敵攻撃を提案する。 本手法は,顔の再構成を行う代用モデルに基づいて構築され,置換モデルから非アクセス可能なブラックボックスDeepFakeモデルへの逆例を直接転送する。
  論文  参考訳（メタデータ） (2022-04-26T14:36:06Z)
• Deepfake Forensics via An Adversarial Game [99.84099103679816]
  顔偽造と画像・映像品質の両面での一般化能力向上のための対人訓練を提唱する。 AIベースの顔操作は、しばしば、一般化が困難であるモデルによって容易に発見できる高周波アーティファクトにつながることを考慮し、これらの特定のアーティファクトを曖昧にしようとする新しい逆トレーニング手法を提案する。
  論文  参考訳（メタデータ） (2021-03-25T02:20:08Z)
• Exploring Adversarial Fake Images on Face Manifold [5.26916168336451]
  強力な生成敵対ネットワーク(GAN)ベースの方法によって合成された画像は、道徳的およびプライバシー上の懸念を引き起こしている。 本稿では, 対向雑音を付加する代わりに, 顔多様体上の対向点を最適に探索し, 反forensic fake face imageを生成する。
  論文  参考訳（メタデータ） (2021-01-09T02:08:59Z)
• Perception Matters: Exploring Imperceptible and Transferable Anti-forensics for GAN-generated Fake Face Imagery Detection [28.620523463372177]
  GAN(Generative Adversarial Network)は、実際の顔写真と知覚的に区別できない、写真リアルな偽の顔画像を生成することができる。 ここでは、敵対的攻撃に基づく偽顔画像検出のための、よりテクスチアンペアブルでテクスティットトランスファーブルなアンチフォレンジックを探索する。 本稿では,視覚的知覚を考慮し,色領域が変化した場合に,画像の反法医学に適する新たな対角攻撃法を提案する。
  論文  参考訳（メタデータ） (2020-10-29T18:54:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。