論文の概要: Artificial Fingerprinting for Generative Models: Rooting Deepfake Attribution in Training Data

• arxiv url: http://arxiv.org/abs/2007.08457v7
• Date: Thu, 17 Mar 2022 20:45:53 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-09 23:08:16.912804
• Title: Artificial Fingerprinting for Generative Models: Rooting Deepfake Attribution in Training Data
• Title（参考訳）: 生成モデルのための人工フィンガープリント:トレーニングデータにおけるディープフェイク帰属のルート化
• Authors: Ning Yu, Vladislav Skripniuk, Sahar Abdelnabi, Mario Fritz
• Abstract要約: 光現実性画像生成は、GAN(Generative Adversarial Network)のブレークスルーにより、新たな品質レベルに達した。 しかし、このようなディープフェイクのダークサイド、すなわち生成されたメディアの悪意ある使用は、視覚的誤報に関する懸念を提起する。 我々は,モデルに人工指紋を導入することによって,深度検出の積極的な,持続可能なソリューションを模索する。
• 参考スコア（独自算出の注目度）: 64.65952078807086
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Photorealistic image generation has reached a new level of quality due to the breakthroughs of generative adversarial networks (GANs). Yet, the dark side of such deepfakes, the malicious use of generated media, raises concerns about visual misinformation. While existing research work on deepfake detection demonstrates high accuracy, it is subject to advances in generation techniques and adversarial iterations on detection countermeasure techniques. Thus, we seek a proactive and sustainable solution on deepfake detection, that is agnostic to the evolution of generative models, by introducing artificial fingerprints into the models. Our approach is simple and effective. We first embed artificial fingerprints into training data, then validate a surprising discovery on the transferability of such fingerprints from training data to generative models, which in turn appears in the generated deepfakes. Experiments show that our fingerprinting solution (1) holds for a variety of cutting-edge generative models, (2) leads to a negligible side effect on generation quality, (3) stays robust against image-level and model-level perturbations, (4) stays hard to be detected by adversaries, and (5) converts deepfake detection and attribution into trivial tasks and outperforms the recent state-of-the-art baselines. Our solution closes the responsibility loop between publishing pre-trained generative model inventions and their possible misuses, which makes it independent of the current arms race. Code and models are available at https://github.com/ningyu1991/ArtificialGANFingerprints .
• Abstract（参考訳）: フォトリアリスティックな画像生成は、gans(generative adversarial networks)の突破口によって、新たなレベルの品質に達している。 しかし、そのようなディープフェイクの暗い側面、つまり生成されたメディアの悪質な利用は、視覚的な誤った情報に対する懸念を引き起こす。 ディープフェイク検出に関する既存の研究は高い精度を示すが、検出対策技術における生成技術と対向反復の進歩が求められている。 そこで我々は,そのモデルに人工指紋を導入することで,生成モデルの進化によらない,ディープフェイク検出の積極的な持続可能性を求める。 私たちのアプローチはシンプルで効果的です。 まず、人工指紋をトレーニングデータに埋め込んだ後、トレーニングデータから生成モデルへの指紋の転送可能性に関する驚くべき発見を検証し、生成したディープフェイクに現れる。 実験の結果,(1)は最先端生成モデル,(2)生成品質に対する無視可能な副作用,(3)画像レベルやモデルレベルの摂動に対する頑健な影響,(4)敵による検出が困難であること,(5)ディープフェイクの検出と帰属が自明なタスクに変換され,最近の最先端ベースラインを上回っていることが確認された。 我々のソリューションは、事前訓練された生成モデル発明の公開とそれらの誤用の間の責任ループを締めくくります。 コードとモデルはhttps://github.com/ningyu1991/artificialganfingerprintsで入手できる。

関連論文リスト

• UniForensics: Face Forgery Detection via General Facial Representation [60.5421627990707]
  高レベルの意味的特徴は摂動の影響を受けにくく、フォージェリー固有の人工物に限らないため、より強い一般化がある。 我々は、トランスフォーマーベースのビデオネットワークを活用する新しいディープフェイク検出フレームワークUniForensicsを導入し、顔の豊かな表現のためのメタファンクショナルな顔分類を行う。
  論文  参考訳（メタデータ） (2024-07-26T20:51:54Z)
• Deepfake Sentry: Harnessing Ensemble Intelligence for Resilient Detection and Generalisation [0.8796261172196743]
  本稿では,持続的かつ積極的なディープフェイクトレーニング強化ソリューションを提案する。 我々は、ディープフェイクジェネレータモデルによって導入されたアーティファクトの効果を模倣するオートエンコーダのプールを採用する。 実験の結果,提案するアンサンブル・オートエンコーダに基づくデータ拡張学習手法が一般化の点で改善されていることがわかった。
  論文  参考訳（メタデータ） (2024-03-29T19:09:08Z)
• Deepfake Generation and Detection: A Benchmark and Survey [134.19054491600832]
  Deepfakeは、特定の条件下で非常にリアルな顔画像やビデオを作成するための技術だ。 この調査は、ディープフェイクの発生と検出の最新の展開を包括的にレビューする。 本研究では, 顔交換, 顔再現, 話し顔生成, 顔属性編集の4つの代表的なディープフェイク分野の研究に焦点をあてる。
  論文  参考訳（メタデータ） (2024-03-26T17:12:34Z)
• Towards General Visual-Linguistic Face Forgery Detection [95.73987327101143]
  ディープフェイクは現実的な顔操作であり、セキュリティ、プライバシー、信頼に深刻な脅威をもたらす可能性がある。 既存の方法は、このタスクを、デジタルラベルまたはマスク信号を使用して検出モデルをトレーニングするバイナリ分類として扱う。 本稿では, 微粒な文レベルのプロンプトをアノテーションとして用いた, VLFFD (Visual-Linguistic Face Forgery Detection) という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-07-31T10:22:33Z)
• Deep Image Fingerprint: Towards Low Budget Synthetic Image Detection and Model Lineage Analysis [8.777277201807351]
  本研究では,実際の画像と区別できない画像の新たな検出方法を提案する。 本手法は、既知の生成モデルから画像を検出し、微調整された生成モデル間の関係を確立することができる。 本手法は,Stable Diffusion とMidversa が生成した画像に対して,最先端の事前学習検出手法に匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2023-03-19T20:31:38Z)
• SeeABLE: Soft Discrepancies and Bounded Contrastive Learning for Exposing Deepfakes [7.553507857251396]
  本研究では,検出問題を(一級)アウト・オブ・ディストリビューション検出タスクとして形式化する,SeeABLEと呼ばれる新しいディープフェイク検出器を提案する。 SeeABLEは、新しい回帰ベースの有界コントラスト損失を使用して、乱れた顔を事前定義されたプロトタイプにプッシュする。 我々のモデルは競合する最先端の検出器よりも高い性能を示しながら、高度に一般化能力を示す。
  論文  参考訳（メタデータ） (2022-11-21T09:38:30Z)
• Self-supervised GAN Detector [10.963740942220168]
  生成モデルは 不正や 破壊 偽ニュースなど 悪意のある目的で悪用される トレーニング設定外の未確認画像を識別する新しいフレームワークを提案する。 提案手法は,GAN画像の高品質な人工指紋を再構成する人工指紋生成装置から構成する。
  論文  参考訳（メタデータ） (2021-11-12T06:19:04Z)
• Beyond the Spectrum: Detecting Deepfakes via Re-Synthesis [69.09526348527203]
  ディープフェイク(Deepfakes)として知られる非常に現実的なメディアは、現実の目から人間の目まで区別できない。 本研究では,テスト画像を再合成し,検出のための視覚的手がかりを抽出する,新しい偽検出手法を提案する。 種々の検出シナリオにおいて,提案手法の摂動に対する有効性の向上,GANの一般化,堅牢性を示す。
  論文  参考訳（メタデータ） (2021-05-29T21:22:24Z)
• Responsible Disclosure of Generative Models Using Scalable Fingerprinting [70.81987741132451]
  深層生成モデルは質的に新しいパフォーマンスレベルを達成した。 この技術がスプーフセンサーに誤用され、ディープフェイクを発生させ、大規模な誤情報を可能にするという懸念がある。 最先端のジェネレーションモデルを責任を持って公開することで、研究者や企業がモデルに指紋を刻むことができます。
  論文  参考訳（メタデータ） (2020-12-16T03:51:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。