論文の概要: Attacks and Defenses for Generative Diffusion Models: A Comprehensive Survey

• arxiv url: http://arxiv.org/abs/2408.03400v1
• Date: Tue, 6 Aug 2024 18:52:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-08 14:26:26.361825
• Title: Attacks and Defenses for Generative Diffusion Models: A Comprehensive Survey
• Title（参考訳）: 生成拡散モデルに対する攻撃と防御:包括的調査
• Authors: Vu Tuan Truong, Luan Ba Dang, Long Bao Le,
• Abstract要約: 拡散モデル (DM) は様々な生成タスクにおいて最先端の性能を達成した。 近年の研究では、DMは幅広い攻撃を受けやすいことが示されている。
• 参考スコア（独自算出の注目度）: 5.300811350105823
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models (DMs) have achieved state-of-the-art performance on various generative tasks such as image synthesis, text-to-image, and text-guided image-to-image generation. However, the more powerful the DMs, the more harmful they potentially are. Recent studies have shown that DMs are prone to a wide range of attacks, including adversarial attacks, membership inference, backdoor injection, and various multi-modal threats. Since numerous pre-trained DMs are published widely on the Internet, potential threats from these attacks are especially detrimental to the society, making DM-related security a worth investigating topic. Therefore, in this paper, we conduct a comprehensive survey on the security aspect of DMs, focusing on various attack and defense methods for DMs. First, we present crucial knowledge of DMs with five main types of DMs, including denoising diffusion probabilistic models, denoising diffusion implicit models, noise conditioned score networks, stochastic differential equations, and multi-modal conditional DMs. We further survey a variety of recent studies investigating different types of attacks that exploit the vulnerabilities of DMs. Then, we thoroughly review potential countermeasures to mitigate each of the presented threats. Finally, we discuss open challenges of DM-related security and envision certain research directions for this topic.
• Abstract（参考訳）: 拡散モデル(DM)は、画像合成、テキスト・ツー・画像生成、テキスト・ツー・画像生成など、様々な生成タスクにおいて最先端のパフォーマンスを実現している。 しかし、DMが強力になればなるほど、有害になる可能性がある。 近年の研究では、DMは敵攻撃、メンバーシップ推論、バックドア注入、様々なマルチモーダル脅威など、幅広い攻撃を受けやすいことが示されている。 多くの事前訓練されたDMがインターネット上で広く公開されているため、これらの攻撃による潜在的な脅威は特に社会に有害であり、DM関連のセキュリティは調査に値するトピックである。 そこで本研究では,DMのセキュリティ面を包括的に調査し,様々な攻撃・防御手法に着目した。 まず,拡散確率モデル,拡散暗黙的モデル,雑音条件付きスコアネットワーク,確率微分方程式,マルチモーダル条件DMの5種類のDMに関する重要な知識を示す。 さらに、DMの脆弱性を悪用する様々なタイプの攻撃について、近年調査している。 そして、提示された脅威を緩和する潜在的な対策を徹底的に検討する。 最後に、DM関連セキュリティのオープンな課題について論じ、このトピックの特定の研究方向性を想定する。

関連論文リスト

• Slight Corruption in Pre-training Data Makes Better Diffusion Models [71.90034201302397]
  拡散モデル(DM)は、高品質な画像、オーディオ、ビデオを生成する際、顕著な能力を示している。 DMは大規模なデータセットでの広範な事前トレーニングの恩恵を受ける。 しかしながら、事前トレーニングデータセットは、しばしば、データを正確に記述しないような、破損したペアを含んでいる。 本稿では,DMの事前学習データにそのような汚職が及ぼす影響について,初めて包括的研究を行った。
  論文  参考訳（メタデータ） (2024-05-30T21:35:48Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• UnlearnCanvas: Stylized Image Dataset for Enhanced Machine Unlearning Evaluation in Diffusion Models [31.48739583108113]
  拡散モデル(DM)はテキスト・画像生成において前例のない機能を示し、多様な用途で広く利用されている。 彼らはまた、有害なコンテンツの生成や著作権紛争など、社会的な問題も提起している。 マシン・アンラーニング(MU)は、DMから望ましくない生成能力を除去できる有望なソリューションとして登場した。
  論文  参考訳（メタデータ） (2024-02-19T05:25:53Z)
• From Trojan Horses to Castle Walls: Unveiling Bilateral Data Poisoning Effects in Diffusion Models [19.140908259968302]
  我々は、BadNetsのようなデータ中毒法がDMによって直接的に生成を劣化させるかどうか検討する。 BadNetsのようなデータ中毒攻撃は、DMが誤画像を生成するのに依然として有効であることを示す。 被毒DMはトリガーの割合が増加しており、これはトリガー増幅と呼ばれる現象である」
  論文  参考訳（メタデータ） (2023-11-04T11:00:31Z)
• To Generate or Not? Safety-Driven Unlearned Diffusion Models Are Still Easy To Generate Unsafe Images ... For Now [22.75295925610285]
  拡散モデル(DM)は、現実的で複雑な画像の生成に革命をもたらした。 DMはまた、有害なコンテンツの生成やデータ著作権の侵害など、潜在的な安全上の危険性も導入している。 安全駆動の未学習技術の発展にもかかわらず、その有効性に対する疑念は続いている。
  論文  参考訳（メタデータ） (2023-10-18T10:36:34Z)
• Memory in Plain Sight: Surveying the Uncanny Resemblances of Associative Memories and Diffusion Models [65.08133391009838]
  拡散モデル(DM)の生成プロセスは、最近、多くのAI生成ベンチマークに最先端を設定した。 エネルギーに基づく連想記憶(AM)の分野からのメモリ検索の数学的言語を用いたDM記述のための新しい視点を導入する。 我々は,AMから期待される経験的行動を示すDMを記録できることの証拠として,DMをエネルギーベースメモリの一種として理解することによって明らかにされる研究の機会について論じる。
  論文  参考訳（メタデータ） (2023-09-28T17:57:09Z)
• Defending Pre-trained Language Models as Few-shot Learners against Backdoor Attacks [72.03945355787776]
  軽快でプラガブルで効果的な PLM 防御である MDP を,少人数の学習者として提唱する。 我々は,MDPが攻撃の有効性と回避性の両方を選択できる興味深いジレンマを発生させることを解析的に示す。
  論文  参考訳（メタデータ） (2023-09-23T04:41:55Z)
• Evaluating the Robustness of Text-to-image Diffusion Models against Real-world Attacks [22.651626059348356]
  テキスト・ツー・イメージ(T2I)拡散モデル(DM)は,テキスト記述から高品質な画像を生成することを約束している。 1つの根本的な問題は、既存のT2I DMが入力テキストの変動に対して堅牢であるかどうかである。 この研究は、現実世界の攻撃に対するT2I DMの最初の堅牢性評価を提供する。
  論文  参考訳（メタデータ） (2023-06-16T00:43:35Z)
• VillanDiffusion: A Unified Backdoor Attack Framework for Diffusion Models [69.20464255450788]
  拡散モデル(英: Diffusion Models, DM)は、可逆的ノイズ付加から可逆的腐敗過程を学習し、雑音を除去する手法である。 最近の研究では、基本的な無条件DMがバックドア注入に弱いことが示されている。 本稿では,DMのバックドア分析の現在の範囲を広げるために,統合されたバックドア攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-12T05:14:13Z)
• Understanding the Vulnerability of Skeleton-based Human Activity Recognition via Black-box Attack [53.032801921915436]
  HAR(Human Activity Recognition)は、自動運転車など、幅広い用途に採用されている。 近年,敵対的攻撃に対する脆弱性から,骨格型HAR法の堅牢性に疑問が呈されている。 攻撃者がモデルの入出力しかアクセスできない場合でも、そのような脅威が存在することを示す。 BASARと呼ばれる骨格をベースとしたHARにおいて,最初のブラックボックス攻撃手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T09:51:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。