論文の概要: Nearly Solved? Robust Deepfake Detection Requires More than Visual Forensics

• arxiv url: http://arxiv.org/abs/2412.05676v1
• Date: Sat, 07 Dec 2024 14:53:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-10 14:58:16.602999
• Title: Nearly Solved? Robust Deepfake Detection Requires More than Visual Forensics
• Title（参考訳）: 身近な解決法? ビジュアルフォサイシクス以上の難解なディープフェイク検出
• Authors: Guy Levy, Nathan Liebmann,
• Abstract要約: 最近開発された最先端の検出器は、古典的な敵攻撃の影響を受けやすいことを示す。 我々は、ディープフェイクの重要な「腐った特徴」が、より高度なセマンティクスにあると主張している。 GPT-4oのような大規模ビジュオ言語モデルは、現在の最先端手法よりもゼロショットディープフェイク検出が優れていることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Deepfakes are on the rise, with increased sophistication and prevalence allowing for high-profile social engineering attacks. Detecting them in the wild is therefore important as ever, giving rise to new approaches breaking benchmark records in this task. In line with previous work, we show that recently developed state-of-the-art detectors are susceptible to classical adversarial attacks, even in a highly-realistic black-box setting, putting their usability in question. We argue that crucial 'robust features' of deepfakes are in their higher semantics, and follow that with evidence that a detector based on a semantic embedding model is less susceptible to black-box perturbation attacks. We show that large visuo-lingual models like GPT-4o can perform zero-shot deepfake detection better than current state-of-the-art methods, and introduce a novel attack based on high-level semantic manipulation. Finally, we argue that hybridising low- and high-level detectors can improve adversarial robustness, based on their complementary strengths and weaknesses.
• Abstract（参考訳）: ディープフェイクは増加傾向にあり、高度化と有能化が進み、社会工学の高度な攻撃を可能にしている。 そのため、それらを検出することはかつてないほど重要であり、このタスクでベンチマークレコードを破る新しいアプローチがもたらされる。 従来の研究結果と一致して、最近開発された最先端の検出器は、高現実的なブラックボックスの設定であっても、古典的な敵攻撃の影響を受けやすいことを示し、それらのユーザビリティに疑問を呈している。 我々は、ディープフェイクの重要な「破壊的特徴」は、より高度な意味論であり、セマンティック埋め込みモデルに基づく検出器がブラックボックスの摂動攻撃の影響を受けにくいという証拠に従う。 GPT-4oのような大規模ビジュオ言語モデルは、現在の最先端手法よりもゼロショットディープフェイク検出が優れていることを示し、ハイレベルなセマンティック操作に基づく新たな攻撃を導入する。 最後に、低レベルの検出器と高レベルの検出器のハイブリッド化は、その相補的な強度と弱点に基づいて、敵の堅牢性を向上させることができると論じる。

関連論文リスト

• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Real is not True: Backdoor Attacks Against Deepfake Detection [9.572726483706846]
  本稿では,Bad-Deepfake(Bad-Deepfake)と命名された先駆的パラダイムを導入する。 我々のアプローチはトレーニングデータのサブセットを戦略的に操作することで、トレーニングされたモデルの運用特性に対する不均等な影響を軽減します。
  論文  参考訳（メタデータ） (2024-03-11T10:57:14Z)
• Adversarially Robust Deepfake Detection via Adversarial Feature Similarity Learning [0.0]
  ディープフェイク技術は、デジタルコンテンツの信頼性を懸念し、効果的な検出方法の開発を必要としている。 敵は、検出モデルを騙して誤った出力を生成する、小さくて知覚できない摂動でディープフェイクビデオを操作できる。 本稿では,3つの基本的深い特徴学習パラダイムを統合したAFSL(Adversarial Feature similarity Learning)を紹介する。
  論文  参考訳（メタデータ） (2024-02-06T11:35:05Z)
• SoK: Facial Deepfake Detectors [32.31180075214162]
  ディープフェイクは急速に社会への深刻な脅威として現れてきた。 既存の検出器の多くは、検証のためにラボで生成されたデータセットに大きく依存している。 本稿では、最新の最先端のディープフェイク検出器をレビューし、いくつかの臨界基準に対して評価する。
  論文  参考訳（メタデータ） (2024-01-09T05:32:22Z)
• Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
  大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。 この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。 トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-20T03:17:21Z)
• Towards General Visual-Linguistic Face Forgery Detection [95.73987327101143]
  ディープフェイクは現実的な顔操作であり、セキュリティ、プライバシー、信頼に深刻な脅威をもたらす可能性がある。 既存の方法は、このタスクを、デジタルラベルまたはマスク信号を使用して検出モデルをトレーニングするバイナリ分類として扱う。 本稿では, 微粒な文レベルのプロンプトをアノテーションとして用いた, VLFFD (Visual-Linguistic Face Forgery Detection) という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-07-31T10:22:33Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Adversarially Robust One-class Novelty Detection [83.1570537254877]
  既存のノベルティ検出器は敵の例に感受性があることが示される。 本稿では, 新規性検知器の潜伏空間を制御し, 敵に対する堅牢性を向上する防衛戦略を提案する。
  論文  参考訳（メタデータ） (2021-08-25T10:41:29Z)
• Temporal Sparse Adversarial Attack on Sequence-based Gait Recognition [56.844587127848854]
  このような攻撃に対して,最先端の歩行認識モデルが脆弱であることを示す。 生成した対向ネットワークに基づくアーキテクチャを用いて、対向的な高品質な歩行シルエットやビデオフレームを意味的に生成する。 実験結果から, フレームの1分の1しか攻撃されない場合, 対象モデルの精度は劇的に低下することがわかった。
  論文  参考訳（メタデータ） (2020-02-22T10:08:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。