論文の概要: DiffusionGuard: A Robust Defense Against Malicious Diffusion-based Image Editing

• arxiv url: http://arxiv.org/abs/2410.05694v1
• Date: Tue, 8 Oct 2024 05:19:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-01 16:59:10.165980
• Title: DiffusionGuard: A Robust Defense Against Malicious Diffusion-based Image Editing
• Title（参考訳）: DiffusionGuard: 悪意のある拡散に基づく画像編集に対するロバストな防御
• Authors: June Suk Choi, Kyungmin Lee, Jongheon Jeong, Saining Xie, Jinwoo Shin, Kimin Lee,
• Abstract要約: DiffusionGuardは、拡散ベースの画像編集モデルによる不正な編集に対する堅牢で効果的な防御方法である。 拡散過程の初期段階をターゲットとした対向雑音を発生させる新しい目的を提案する。 また,テスト期間中の各種マスクに対するロバスト性を高めるマスク強化手法も導入した。
• 参考スコア（独自算出の注目度）: 93.45507533317405
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in diffusion models have introduced a new era of text-guided image manipulation, enabling users to create realistic edited images with simple textual prompts. However, there is significant concern about the potential misuse of these methods, especially in creating misleading or harmful content. Although recent defense strategies, which introduce imperceptible adversarial noise to induce model failure, have shown promise, they remain ineffective against more sophisticated manipulations, such as editing with a mask. In this work, we propose DiffusionGuard, a robust and effective defense method against unauthorized edits by diffusion-based image editing models, even in challenging setups. Through a detailed analysis of these models, we introduce a novel objective that generates adversarial noise targeting the early stage of the diffusion process. This approach significantly improves the efficiency and effectiveness of adversarial noises. We also introduce a mask-augmentation technique to enhance robustness against various masks during test time. Finally, we introduce a comprehensive benchmark designed to evaluate the effectiveness and robustness of methods in protecting against privacy threats in realistic scenarios. Through extensive experiments, we show that our method achieves stronger protection and improved mask robustness with lower computational costs compared to the strongest baseline. Additionally, our method exhibits superior transferability and better resilience to noise removal techniques compared to all baseline methods. Our source code is publicly available at https://github.com/choi403/DiffusionGuard.
• Abstract（参考訳）: 拡散モデルの最近の進歩は、ユーザーが単純なテキストプロンプトでリアルに編集された画像を作成できるように、テキスト誘導画像操作の新しい時代をもたらした。 しかし、これらの方法の潜在的な誤用、特に誤解を招くコンテンツや有害なコンテンツの作成には、大きな懸念がある。 モデル障害を誘発するために非知覚的対向ノイズを導入した近年の防衛戦略は、将来性を示しているが、マスクによる編集のようなより洗練された操作には効果がない。 本研究では,拡散に基づく画像編集モデルによる不正な編集に対する堅牢かつ効果的な防御手法であるDiffusionGuardを提案する。 これらのモデルの詳細な解析を通じて,拡散過程の初期段階をターゲットとした対向雑音を発生させる新しい目的を導入する。 このアプローチは、対向雑音の効率と有効性を大幅に改善する。 また,テスト期間中の各種マスクに対するロバスト性を高めるマスク強化手法も導入した。 最後に,現実シナリオにおけるプライバシの脅威から保護する手法の有効性と堅牢性を評価するための総合的なベンチマークを提案する。 より広範な実験により,本手法は,最強ベースラインに比べて計算コストの低いマスクロバスト性を向上し,より強力な保護を実現することを示す。 さらに, 本手法は, ベースライン法に比べ, 高い伝達性, 耐雑音性を示す。 ソースコードはhttps://github.com/choi403/DiffusionGuard.comで公開されています。

関連論文リスト

• Pixel Is Not A Barrier: An Effective Evasion Attack for Pixel-Domain Diffusion Models [9.905296922309157]
  拡散モデルは高品質な画像合成のための強力な生成モデルとして登場し、それに基づく画像編集技術も数多くある。 従来の研究は、知覚不能な摂動を加えることで、画像の拡散に基づく編集を防ごうとしてきた。 本研究は,UNETの脆弱性を悪用した特徴表現攻撃損失と,保護された画像の自然性を高めるための潜在最適化戦略を備えた,新たな攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-21T17:56:34Z)
• MaskPure: Improving Defense Against Text Adversaries with Stochastic Purification [7.136205674624813]
  コンピュータビジョン設定では、ノイズ除去処理は入力画像の浄化に有用であることが証明されている。 いくつかの初期の研究は、NLP設定における敵攻撃を緩和するためにランダムノイズ化とデノイズ化の使用について検討している。 我々は拡散過程にインスパイアされた入力浄化テキストの手法を拡張した。 われわれの新しい手法であるMaskPureは、他の現代の防御法と比べて頑丈さを上回ったり、一致させたりします。
  論文  参考訳（メタデータ） (2024-06-18T21:27:13Z)
• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent Diffusion Model [61.53213964333474]
  本稿では,生の画素空間ではなく,潜在空間における非知覚的対角的アイデンティティ摂動を生成できる統一的なフレームワークAdv-Diffusionを提案する。 具体的には,周囲のセマンティックな摂動を生成するために,個人性に敏感な条件付き拡散生成モデルを提案する。 設計された適応強度に基づく対向摂動アルゴリズムは、攻撃の伝達性とステルス性の両方を確保することができる。
  論文  参考訳（メタデータ） (2023-12-18T15:25:23Z)
• IMPRESS: Evaluating the Resilience of Imperceptible Perturbations Against Unauthorized Data Usage in Diffusion-Based Generative AI [52.90082445349903]
  拡散ベースの画像生成モデルは、アーティストのスタイルを模倣するアートイメージを作成したり、偽のコンテンツのためにオリジナルの画像を悪意を持って編集することができる。 知覚不能な摂動を追加することによって、元のイメージをそのような不正なデータ使用から保護する試みがいくつかなされている。 本研究では, IMPRESS という浄化摂動プラットフォームを導入し, 非受容性摂動の有効性を保護策として評価する。
  論文  参考訳（メタデータ） (2023-10-30T03:33:41Z)
• IRAD: Implicit Representation-driven Image Resampling against Adversarial Attacks [16.577595936609665]
  本稿では,画像再サンプリングという,敵対的攻撃に対する新たなアプローチを提案する。 画像再サンプリングは、幾何学的変換によって指定されたシーンの再調整や再レンダリングの過程をシミュレートして、離散画像を新しい画像に変換する。 本手法は,クリーンな画像の精度を維持しつつ,多様な深層モデルの様々な攻撃に対する対角的堅牢性を著しく向上することを示す。
  論文  参考訳（メタデータ） (2023-10-18T11:19:32Z)
• Toward effective protection against diffusion based mimicry through score distillation [15.95715097030366]
  拡散に基づく模倣パイプラインから画像を保護するため、摂動を追加する努力がなされている。 既存の手法のほとんどは非効率であり、個々のユーザーが使うには実用的ではない。 本稿では,潜伏拡散モデルに対する攻撃に関する新たな知見と,より効果的な保護のための新しいプラグ・アンド・プレイ戦略を提案する。
  論文  参考訳（メタデータ） (2023-10-02T18:56:12Z)
• DiffProtect: Generate Adversarial Examples with Diffusion Models for Facial Privacy Protection [64.77548539959501]
  DiffProtectは最先端の方法よりも自然に見える暗号化画像を生成する。 例えば、CelebA-HQとFFHQのデータセットで24.5%と25.1%の絶対的な改善が達成されている。
  論文  参考訳（メタデータ） (2023-05-23T02:45:49Z)
• Towards Prompt-robust Face Privacy Protection via Adversarial Decoupling Augmentation Framework [20.652130361862053]
  顔認識保護アルゴリズムの防御性能を高めるために,Adversarial Decoupling Augmentation Framework (ADAF)を提案する。 ADAFは、様々な攻撃プロンプトに対する防御安定のために、多レベルテキスト関連の拡張を導入している。
  論文  参考訳（メタデータ） (2023-05-06T09:00:50Z)
• Restricted Black-box Adversarial Attack Against DeepFake Face Swapping [70.82017781235535]
  本稿では,顔画像偽造モデルに対する問い合わせを一切必要としない現実的な敵攻撃を提案する。 本手法は,顔の再構成を行う代用モデルに基づいて構築され,置換モデルから非アクセス可能なブラックボックスDeepFakeモデルへの逆例を直接転送する。
  論文  参考訳（メタデータ） (2022-04-26T14:36:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。