論文の概要: Adversarial Threats to DeepFake Detection: A Practical Perspective

• arxiv url: http://arxiv.org/abs/2011.09957v1
• Date: Thu, 19 Nov 2020 16:53:38 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-23 21:18:26.191624
• Title: Adversarial Threats to DeepFake Detection: A Practical Perspective
• Title（参考訳）: ディープフェイク検出に対する敵対的脅威 : 実践的展望
• Authors: Paarth Neekhara, Brian Dolhansky, Joanna Bitton, Cristian Canton Ferrer
• Abstract要約: 本稿では,最先端のDeepFake検出手法の脆弱性を実用的観点から検討する。 我々は、非常に現実的な攻撃シナリオを示すUniversal Adversarial Perturbationsを用いて、よりアクセスしやすい攻撃を作成する。
• 参考スコア（独自算出の注目度）: 12.611342984880826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Facially manipulated images and videos or DeepFakes can be used maliciously to fuel misinformation or defame individuals. Therefore, detecting DeepFakes is crucial to increase the credibility of social media platforms and other media sharing web sites. State-of-the art DeepFake detection techniques rely on neural network based classification models which are known to be vulnerable to adversarial examples. In this work, we study the vulnerabilities of state-of-the-art DeepFake detection methods from a practical stand point. We perform adversarial attacks on DeepFake detectors in a black box setting where the adversary does not have complete knowledge of the classification models. We study the extent to which adversarial perturbations transfer across different models and propose techniques to improve the transferability of adversarial examples. We also create more accessible attacks using Universal Adversarial Perturbations which pose a very feasible attack scenario since they can be easily shared amongst attackers. We perform our evaluations on the winning entries of the DeepFake Detection Challenge (DFDC) and demonstrate that they can be easily bypassed in a practical attack scenario by designing transferable and accessible adversarial attacks.
• Abstract（参考訳）: 顔で操作された画像やビデオやDeepFakesは、誤報や個人を消毒するために悪用される。 したがって、DeepFakesの検出は、ソーシャルメディアプラットフォームやその他のメディア共有Webサイトの信頼性を高めるために不可欠である。 最先端のDeepFake検出技術は、敵の例に弱いことが知られているニューラルネットワークベースの分類モデルに依存している。 本研究では,最先端のDeepFake検出手法の脆弱性を実用的観点から検討する。 ブラックボックス設定のDeepFake検出器に対して,敵が分類モデルを完全に知識を持っていないような攻撃を行う。 本研究では,異なるモデル間での逆摂動の伝達の程度を調査し,逆例の伝達性を改善する手法を提案する。 また、攻撃者間で容易に共有できるため、非常に現実的な攻撃シナリオを示すUniversal Adversarial Perturbationsを使って、よりアクセスしやすい攻撃を作成する。 我々は,deepfake detection challenge (dfdc) の入賞項目について評価を行い,転送可能かつアクセス可能な敵攻撃の設計により,実際の攻撃シナリオにおいて容易にバイパスできることを実証する。

関連論文リスト

• Real is not True: Backdoor Attacks Against Deepfake Detection [9.572726483706846]
  本稿では,Bad-Deepfake(Bad-Deepfake)と命名された先駆的パラダイムを導入する。 我々のアプローチはトレーニングデータのサブセットを戦略的に操作することで、トレーニングされたモデルの運用特性に対する不均等な影響を軽減します。
  論文  参考訳（メタデータ） (2024-03-11T10:57:14Z)
• Adversarially Robust Deepfake Detection via Adversarial Feature Similarity Learning [0.0]
  ディープフェイク技術は、デジタルコンテンツの信頼性を懸念し、効果的な検出方法の開発を必要としている。 敵は、検出モデルを騙して誤った出力を生成する、小さくて知覚できない摂動でディープフェイクビデオを操作できる。 本稿では,3つの基本的深い特徴学習パラダイムを統合したAFSL(Adversarial Feature similarity Learning)を紹介する。
  論文  参考訳（メタデータ） (2024-02-06T11:35:05Z)
• Turn Fake into Real: Adversarial Head Turn Attacks Against Deepfake Detection [58.1263969438364]
  本稿では,3次元対向顔視によるディープフェイク検出器に対する最初の試みとして,対向頭部旋回(AdvHeat)を提案する。 実験では、現実的なブラックボックスシナリオにおいて、様々な検出器のAdvHeatに対する脆弱性を検証する。 さらなる分析により、AdvHeatは、クロス検出器転送性と防御に対する堅牢性の両方に対する従来の攻撃よりも優れていることが示されている。
  論文  参考訳（メタデータ） (2023-09-03T07:01:34Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Restricted Black-box Adversarial Attack Against DeepFake Face Swapping [70.82017781235535]
  本稿では,顔画像偽造モデルに対する問い合わせを一切必要としない現実的な敵攻撃を提案する。 本手法は,顔の再構成を行う代用モデルに基づいて構築され,置換モデルから非アクセス可能なブラックボックスDeepFakeモデルへの逆例を直接転送する。
  論文  参考訳（メタデータ） (2022-04-26T14:36:06Z)
• Making DeepFakes more spurious: evading deep face forgery detection via trace removal attack [16.221725939480084]
  本稿では,DeepFakeアンチ・フォレスト・フォレストに対する検出非依存的トレース除去攻撃について紹介する。 検出器側を調査する代わりに、私たちの攻撃はオリジナルのDeepFake生成パイプラインを調べます。 実験により、提案された攻撃は6つの最先端のDeepFake検出器の検出精度を著しく損なうことが示された。
  論文  参考訳（メタデータ） (2022-03-22T03:13:33Z)
• Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems [50.758281304737444]
  本稿では,強化学習に基づく対話型レコメンデーションシステムにおける敵例の探索と攻撃検出を提案する。 まず、入力に摂動を加え、カジュアルな要因に介入することで、異なる種類の逆例を作成する。 そこで,本研究では,人工データに基づく深層学習に基づく分類器による潜在的攻撃を検出することにより,推薦システムを強化した。
  論文  参考訳（メタデータ） (2021-12-02T04:12:24Z)
• MixNet for Generalized Face Presentation Attack Detection [63.35297510471997]
  我々は、プレゼンテーションアタックを検出するための、TextitMixNetと呼ばれるディープラーニングベースのネットワークを提案している。 提案アルゴリズムは最先端の畳み込みニューラルネットワークアーキテクチャを利用して,各攻撃カテゴリの特徴マッピングを学習する。
  論文  参考訳（メタデータ） (2020-10-25T23:01:13Z)
• Detection Defense Against Adversarial Attacks with Saliency Map [7.736844355705379]
  ニューラルネットワークは、人間の視覚にほとんど受容できない敵の例に弱いことがよく確認されている。 既存の防衛は、敵の攻撃に対するモデルの堅牢性を強化する傾向にある。 本稿では,新たな雑音と組み合わせた新しい手法を提案し,不整合戦略を用いて敵のサンプルを検出する。
  論文  参考訳（メタデータ） (2020-09-06T13:57:17Z)
• Towards Transferable Adversarial Attack against Deep Face Recognition [58.07786010689529]
  ディープ畳み込みニューラルネットワーク(DCNN)は敵の例に弱いことが判明した。 転送可能な敵の例は、DCNNの堅牢性を著しく妨げます。 DFANetは畳み込み層で使用されるドロップアウトベースの手法であり,サロゲートモデルの多様性を高めることができる。 クエリなしで4つの商用APIをうまく攻撃できる新しい対向顔ペアを生成します。
  論文  参考訳（メタデータ） (2020-04-13T06:44:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。