論文の概要: Targeted Attack Improves Protection against Unauthorized Diffusion Customization

• arxiv url: http://arxiv.org/abs/2310.04687v4
• Date: Sat, 12 Oct 2024 01:32:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-15 15:04:23.456630
• Title: Targeted Attack Improves Protection against Unauthorized Diffusion Customization
• Title（参考訳）: ターゲット攻撃は、不正拡散のカスタマイズに対する防御を改善する
• Authors: Boyang Zheng, Chumeng Liang, Xiaoyu Wu,
• Abstract要約: 拡散モデルは画像生成の新たなマイルストーンを築き、公共の関心を喚起する。 カスタマイズのために、未許可の画像に微調整できる。 標的外攻撃を利用した現在の保護は、十分に効果がないように見える。 ターゲット攻撃の導入により、不正拡散のカスタマイズに対する保護をシンプルかつ効果的に行うことを提案する。
• 参考スコア（独自算出の注目度）: 3.1678356835951273
• License:
• Abstract: Diffusion models build a new milestone for image generation yet raising public concerns, for they can be fine-tuned on unauthorized images for customization. Protection based on adversarial attacks rises to encounter this unauthorized diffusion customization, by adding protective watermarks to images and poisoning diffusion models. However, current protection, leveraging untargeted attacks, does not appear to be effective enough. In this paper, we propose a simple yet effective improvement for the protection against unauthorized diffusion customization by introducing targeted attacks. We show that by carefully selecting the target, targeted attacks significantly outperform untargeted attacks in poisoning diffusion models and degrading the customization image quality. Extensive experiments validate the superiority of our method on two mainstream customization methods of diffusion models, compared to existing protections. To explain the surprising success of targeted attacks, we delve into the mechanism of attack-based protections and propose a hypothesis based on our observation, which enhances the comprehension of attack-based protections. To the best of our knowledge, we are the first to both reveal the vulnerability of diffusion models to targeted attacks and leverage targeted attacks to enhance protection against unauthorized diffusion customization. Our code is available on GitHub: \url{https://github.com/psyker-team/mist-v2}.
• Abstract（参考訳）: 拡散モデルは、画像生成のための新しいマイルストーンを構築するが、パブリックな懸念を提起する。 敵対的攻撃に基づく保護は、画像や中毒拡散モデルに保護用透かしを追加することによって、この無許可拡散カスタマイズに遭遇する。 しかし、標的外攻撃を利用した現在の保護は、十分に効果がないように思われる。 本稿では,ターゲットアタックの導入により,不正な拡散カスタマイズに対する保護をシンプルかつ効果的に行うことを提案する。 対象を慎重に選択することにより、標的の攻撃は、中毒拡散モデルにおいて標的外攻撃よりも有意に優れ、カスタマイズ画像の品質が低下することを示す。 拡散モデルの2つの主要なカスタマイズ法において,既存の保護法と比較して,本手法の優位性を検証した。 標的攻撃の驚くべき成功を説明するため,攻撃ベース保護のメカニズムを掘り下げ,我々の観察に基づく仮説を提案し,攻撃ベース保護の理解を深める。 我々の知る限り、我々は、ターゲット攻撃に対する拡散モデルの脆弱性を最初に明らかにし、ターゲット攻撃を活用して、不正な拡散カスタマイズに対する保護を強化する。 私たちのコードはGitHubで入手可能です。

関連論文リスト

• DiffusionGuard: A Robust Defense Against Malicious Diffusion-based Image Editing [93.45507533317405]
  DiffusionGuardは、拡散ベースの画像編集モデルによる不正な編集に対する堅牢で効果的な防御方法である。 拡散過程の初期段階をターゲットとした対向雑音を発生させる新しい目的を提案する。 また,テスト期間中の各種マスクに対するロバスト性を高めるマスク強化手法も導入した。
  論文  参考訳（メタデータ） (2024-10-08T05:19:19Z)
• Watch the Watcher! Backdoor Attacks on Security-Enhancing Diffusion Models [65.30406788716104]
  本研究では,セキュリティ強化拡散モデルの脆弱性について検討する。 これらのモデルは、シンプルで効果的なバックドア攻撃であるDIFF2に非常に感受性があることを実証する。 ケーススタディでは、DIFF2は、ベンチマークデータセットとモデル間で、パーフィケーション後の精度と認定精度の両方を著しく削減できることを示している。
  論文  参考訳（メタデータ） (2024-06-14T02:39:43Z)
• Pixel is a Barrier: Diffusion Models Are More Adversarially Robust Than We Think [14.583181596370386]
  拡散モデルの逆例は、安全上の問題に対する解決策として広く使われている。 このことは、拡散モデルがほとんどの深層モデルのような敵攻撃に対して脆弱であると考えることを誤解させるかもしれない。 本稿では, 勾配をベースとしたホワイトボックス攻撃がLDM攻撃に有効であっても, PDM攻撃に失敗する,という新たな知見を示す。
  論文  参考訳（メタデータ） (2024-04-20T08:28:43Z)
• Impart: An Imperceptible and Effective Label-Specific Backdoor Attack [15.859650783567103]
  我々は,攻撃者が被害者モデルにアクセスできないシナリオにおいて,Impartという新たな非知覚的なバックドア攻撃フレームワークを提案する。 具体的には、オール・ツー・オール・セッティングの攻撃能力を高めるために、まずラベル固有の攻撃を提案する。
  論文  参考訳（メタデータ） (2024-03-18T07:22:56Z)
• Revealing Vulnerabilities in Stable Diffusion via Targeted Attacks [41.531913152661296]
  本稿では,安定拡散に対する標的対向攻撃の問題を定式化し,対向的プロンプトを生成するための枠組みを提案する。 具体的には、安定した拡散を誘導し、特定の画像を生成するための信頼性の高い逆プロンプトを構築するために、勾配に基づく埋め込み最適化を設計する。 逆方向のプロンプトを成功させた後、モデルの脆弱性を引き起こすメカニズムを明らかにする。
  論文  参考訳（メタデータ） (2024-01-16T12:15:39Z)
• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)
• DiffProtect: Generate Adversarial Examples with Diffusion Models for Facial Privacy Protection [64.77548539959501]
  DiffProtectは最先端の方法よりも自然に見える暗号化画像を生成する。 例えば、CelebA-HQとFFHQのデータセットで24.5%と25.1%の絶対的な改善が達成されている。
  論文  参考訳（メタデータ） (2023-05-23T02:45:49Z)
• Diffusion Models for Imperceptible and Transferable Adversarial Attack [23.991194050494396]
  本稿では,拡散モデルの生成的および識別的パワーを両立させることにより,新たな非受容的かつ伝達可能な攻撃を提案する。 提案手法であるDiffAttackは,対向攻撃場に拡散モデルを導入する最初の方法である。
  論文  参考訳（メタデータ） (2023-05-14T16:02:36Z)
• Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses [59.58128343334556]
  我々は、より適切な勾配方向を見つけ、攻撃効果を高め、より効率的な対人訓練をもたらす標準損失に緩和項を導入する。 本稿では, クリーン画像の関数マッピングを用いて, 敵生成を誘導するGAMA ( Guided Adversarial Margin Attack) を提案する。 また,一段防衛における最先端性能を実現するためのGAT ( Guided Adversarial Training) を提案する。
  論文  参考訳（メタデータ） (2020-11-30T16:39:39Z)
• Deflecting Adversarial Attacks [94.85315681223702]
  我々は、攻撃者が攻撃対象クラスに似た入力を生成することによって、敵攻撃を「防御」するこのサイクルを終わらせる新しいアプローチを提案する。 本稿ではまず,3つの検出機構を組み合わせたカプセルネットワークに基づくより強力な防御手法を提案する。
  論文  参考訳（メタデータ） (2020-02-18T06:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。