論文の概要: Gungnir: Exploiting Stylistic Features in Images for Backdoor Attacks on Diffusion Models

• arxiv url: http://arxiv.org/abs/2502.20650v2
• Date: Tue, 22 Apr 2025 03:07:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-23 19:51:40.238402
• Title: Gungnir: Exploiting Stylistic Features in Images for Backdoor Attacks on Diffusion Models
• Title（参考訳）: Gungnir:拡散モデルによるバックドア攻撃の画像にスティリスティックな特徴を爆発させる
• Authors: Yu Pan, Bingrong Dai, Jiahao Chen, Lin Wang, Yi Du, Jiao Liu,
• Abstract要約: 拡散モデル(DM)はバックドア攻撃に対して脆弱である。 Gungnirは、入力画像内のスタイルトリガを通じて、攻撃者がDMのバックドアをアクティベートできる新しい方法である。 本手法は,クリーン画像と知覚的に区別できないトリガー埋め込み画像を生成する。
• 参考スコア（独自算出の注目度）: 8.672029086609884
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, Diffusion Models (DMs) have demonstrated significant advances in the field of image generation. However, according to current research, DMs are vulnerable to backdoor attacks, which allow attackers to control the model's output by inputting data containing covert triggers, such as a specific visual patch or phrase. Existing defense strategies are well equipped to thwart such attacks through backdoor detection and trigger inversion because previous attack methods are constrained by limited input spaces and low-dimensional triggers. For example, visual triggers are easily observed by defenders, text-based or attention-based triggers are more susceptible to neural network detection. To explore more possibilities of backdoor attack in DMs, we propose Gungnir, a novel method that enables attackers to activate the backdoor in DMs through style triggers within input images. Our approach proposes using stylistic features as triggers for the first time and implements backdoor attacks successfully in image-to-image tasks by introducing Reconstructing-Adversarial Noise (RAN) and Short-Term Timesteps-Retention (STTR). Our technique generates trigger-embedded images that are perceptually indistinguishable from clean images, thus bypassing both manual inspection and automated detection neural networks. Experiments demonstrate that Gungnir can easily bypass existing defense methods. Among existing DM defense frameworks, our approach achieves a 0 backdoor detection rate (BDR). Our codes are available at https://github.com/paoche11/Gungnir.
• Abstract（参考訳）: 近年,拡散モデル (DM) は画像生成の分野で大きな進歩を見せている。 しかし、現在の研究によると、DMはバックドア攻撃に弱いため、特定の視覚パッチやフレーズなどの隠蔽トリガーを含むデータを入力することで、攻撃者がモデルの出力を制御することができる。 既存の防衛戦略は、従来の攻撃手法が限られた入力空間と低次元トリガーによって制約されているため、バックドア検出とインバージョンによる攻撃を阻止する。 例えば、視覚的なトリガーはディフェンダーによって容易に観察され、テキストベースまたは注意ベースのトリガーは、ニューラルネットワークの検出に対してより影響を受けやすい。 DMにおけるバックドア攻撃の可能性を探るため,攻撃者が入力画像内のスタイルトリガを介してDMのバックドアを活性化する新しい手法であるGungnirを提案する。 提案手法は,画像と画像のタスクにおけるバックドアアタック(バックドアアタック)をトリガーとしてスタイリスティックな特徴を初めて用い,コンストラクティング・ディバイザ・ノイズ(RAN)とショート・タイムステップ・リテンション(STTR)を導入して実現した。 本手法は,手動検査と自動検出ニューラルネットワークの両方をバイパスして,クリーン画像と知覚的に区別できないトリガー埋め込み画像を生成する。 実験により、Gungnirは既存の防御方法を簡単にバイパスできることが示された。 既存のDM防衛フレームワークの中で,本手法は後方検出率0(BDR)を達成する。 私たちのコードはhttps://github.com/paoche11/Gungnir.comで公開されています。

関連論文リスト

• Parasite: A Steganography-based Backdoor Attack Framework for Diffusion Models [9.459318290809907]
  本研究では,拡散モデルにおけるイメージ・ツー・イメージタスクのための新しいバックドアアタック手法"Parasite"を提案する。 新規攻撃手法としての「パラサイト」は、バックドア攻撃を実行するための既存の検出フレームワークを効果的にバイパスする。
  論文  参考訳（メタデータ） (2025-04-08T08:53:47Z)
• A4O: All Trigger for One sample [10.78460062665304]
  提案されたバックドアディフェンダーは、トリガーが統一された方法で現れるという仮定に依存することが多い。 本稿では,この単純な仮定が抜け穴を生じさせ,より洗練されたバックドア攻撃を回避できることを示す。 我々は,複数の種類のバックドアトリガーを組み込んだ新たなバックドア攻撃機構を設計し,ステルスネスと有効性に着目した。
  論文  参考訳（メタデータ） (2025-01-13T10:38:58Z)
• Proactive Adversarial Defense: Harnessing Prompt Tuning in Vision-Language Models to Detect Unseen Backdoored Images [0.0]
  バックドア攻撃は、隠れたトリガーを入力に埋め込むことで重大な脅威となり、モデルがそれらをターゲットラベルに誤って分類する。 トレーニングと推論の両方において、未確認のバックドア画像を検出するための画期的な手法を提案する。 われわれのアプローチは、学習可能なテキストプロンプトを訓練し、クリーンな画像と隠れたバックドアトリガーを区別する。
  論文  参考訳（メタデータ） (2024-12-11T19:54:14Z)
• PureDiffusion: Using Backdoor to Counter Backdoor in Generative Diffusion Models [5.957580737396457]
  拡散モデル(DM)は、幅広い生成タスクにおいて最先端の能力を達成した高度なディープラーニングモデルである。 近年の研究では、バックドア攻撃に関する脆弱性が示されており、バックドアDMは、バックドアターゲットと呼ばれる指定結果を一貫して生成している。 DMに埋め込まれたバックドアトリガを反転させることで、バックドア攻撃を効率的に検出できる新しいバックドア防御フレームワークであるPureDiffusionを導入する。
  論文  参考訳（メタデータ） (2024-09-20T23:19:26Z)
• Diff-Cleanse: Identifying and Mitigating Backdoor Attacks in Diffusion Models [3.134071086568745]
  拡散モデル(DM)は、今日では最も先進的な生成モデルの一つと見なされている。 近年の研究では、DMはバックドア攻撃に弱いことが示唆されている。 この脆弱性は、モデル所有者に評判を害するなど、重大なリスクをもたらす。 Diff-Cleanseは、DM用に特別に設計された2段階のバックドア防御フレームワークである。
  論文  参考訳（メタデータ） (2024-07-31T03:54:41Z)
• Elijah: Eliminating Backdoors Injected in Diffusion Models via Distribution Shift [86.92048184556936]
  DMの最初のバックドア検出・除去フレームワークを提案する。 DDPM, NCSN, LDMを含む3種類のDMを用いて, フレームワークのElijahを評価した。 提案手法では, モデルの有用性を著しく損なうことなく, 検出精度が100%に近づき, バックドア効果をゼロに抑えることができる。
  論文  参考訳（メタデータ） (2023-11-27T23:58:56Z)
• From Trojan Horses to Castle Walls: Unveiling Bilateral Data Poisoning Effects in Diffusion Models [19.140908259968302]
  我々は、BadNetsのようなデータ中毒法がDMによって直接的に生成を劣化させるかどうか検討する。 BadNetsのようなデータ中毒攻撃は、DMが誤画像を生成するのに依然として有効であることを示す。 被毒DMはトリガーの割合が増加しており、これはトリガー増幅と呼ばれる現象である」
  論文  参考訳（メタデータ） (2023-11-04T11:00:31Z)
• VillanDiffusion: A Unified Backdoor Attack Framework for Diffusion Models [69.20464255450788]
  拡散モデル(英: Diffusion Models, DM)は、可逆的ノイズ付加から可逆的腐敗過程を学習し、雑音を除去する手法である。 最近の研究では、基本的な無条件DMがバックドア注入に弱いことが示されている。 本稿では,DMのバックドア分析の現在の範囲を広げるために,統合されたバックドア攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-12T05:14:13Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder [57.739693628523]
  Masked AutoEncoder (BDMAE) を用いたブラインドバックドア防御のためのフレームワークを提案する。 BDMAEは、画像構造的類似性とテスト画像とMAE復元の間のラベル整合性を用いて、トークン空間で可能なトリガを検出する。 私たちのアプローチは、モデル復元、パターンのトリガー、画像の良心に盲目です。
  論文  参考訳（メタデータ） (2023-03-27T19:23:33Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Backdoor Attack in the Physical World [49.64799477792172]
  ディープニューラルネットワーク(DNN)に隠れたバックドアを注入するバックドア攻撃 既存のバックドア攻撃のほとんどは、トレーニングおよびテスト画像にまたがる静的トリガ、すなわち$$トリガの設定を採用した。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、この攻撃パラダイムは脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-04-06T08:37:33Z)
• Input-Aware Dynamic Backdoor Attack [9.945411554349276]
  近年、ニューラルネットワークのバックドア攻撃は、ディープラーニングシステムに対する潜在的なセキュリティ脅威と考えられている。 現在のバックドア技術は、現在の防御方法によって容易に検出され緩和される一様トリガーパターンに依存している。 本稿では,入力から入力までのトリガーが異なる新しいバックドア攻撃手法を提案する。
  論文  参考訳（メタデータ） (2020-10-16T03:57:12Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。