論文の概要: Towards Understanding the Robustness of Diffusion-Based Purification: A Stochastic Perspective

• arxiv url: http://arxiv.org/abs/2404.14309v2
• Date: Wed, 02 Oct 2024 16:28:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-03 15:17:09.280634
• Title: Towards Understanding the Robustness of Diffusion-Based Purification: A Stochastic Perspective
• Title（参考訳）: 拡散浄化のロバスト性理解に向けて:確率論的視点
• Authors: Yiming Liu, Kezhao Liu, Yao Xiao, Ziyi Dong, Xiaogang Xu, Pengxu Wei, Liang Lin,
• Abstract要約: 拡散性浄化(DBP)は、敵の攻撃に対する効果的な防御機構として出現している。 本稿では、DBPプロセスの本質が、その堅牢性の主要な要因であると主張している。
• 参考スコア（独自算出の注目度）: 65.10019978876863
• License:
• Abstract: Diffusion-Based Purification (DBP) has emerged as an effective defense mechanism against adversarial attacks. The efficacy of DBP has been attributed to the forward diffusion process, which narrows the distribution gap between clean and adversarial images through the addition of Gaussian noise. Although this explanation has some theoretical support, the significance of its contribution to robustness remains unclear. In this paper, we argue that the inherent stochasticity in the DBP process is the primary driver of its robustness. To explore this, we introduce a novel Deterministic White-Box (DW-box) evaluation protocol to assess robustness in the absence of stochasticity and to analyze the attack trajectories and loss landscapes. Our findings suggest that DBP models primarily leverage stochasticity to evade effective attack directions, and their ability to purify adversarial perturbations can be weak. To further enhance the robustness of DBP models, we introduce Adversarial Denoising Diffusion Training (ADDT), which incorporates classifier-guided adversarial perturbations into diffusion training, thereby strengthening the DBP models' ability to purify adversarial perturbations. Additionally, we propose Rank-Based Gaussian Mapping (RBGM) to make perturbations more compatible with diffusion models. Experimental results validate the effectiveness of ADDT. In conclusion, our study suggests that future research on DBP can benefit from the perspective of decoupling the stochasticity-based and purification-based robustness.
• Abstract（参考訳）: 拡散性浄化(DBP)は、敵の攻撃に対する効果的な防御機構として出現している。 DBPの有効性は,ガウス雑音を付加することにより,クリーン画像と逆画像の分布ギャップを狭める前方拡散過程に起因している。 この説明にはいくつかの理論的裏付けがあるが、その頑健性への貢献の重要性はいまだ不明である。 本稿では,DBPプロセスに固有の確率性が,その堅牢性の主要な要因であると主張する。 そこで本研究では,確率性のない場合のロバスト性を評価し,攻撃経路と損失景観を解析するための,新しい決定論的ホワイトボックス (DW-box) 評価プロトコルを提案する。 以上の結果から,DBPモデルは主に確率性を利用して効果的な攻撃方向を回避し,敵の摂動を浄化する能力は弱いことが示唆された。 DBPモデルのロバスト性をさらに向上するため,分類器誘導逆流を拡散訓練に組み込んだADDT(Adversarial Denoising Diffusion Training)を導入し,DBPモデルの逆流を浄化する能力を強化する。 さらに、拡散モデルとの摂動をより整合させるために、ランクベースガウス写像(RBGM)を提案する。 ADDTの有効性を実験的に検証した。 以上の結果から,DBPの今後の研究は,確率的・浄化的ロバスト性の分離という観点からのメリットが示唆された。

関連論文リスト

• Classifier Guidance Enhances Diffusion-based Adversarial Purification by Preserving Predictive Information [75.36597470578724]
  敵の浄化は、敵の攻撃からニューラルネットワークを守るための有望なアプローチの1つである。 分類器決定境界から遠ざかって, 清浄するgUided Purification (COUP)アルゴリズムを提案する。 実験結果から, COUPは強力な攻撃法でより優れた対向的堅牢性が得られることが示された。
  論文  参考訳（メタデータ） (2024-08-12T02:48:00Z)
• ADBM: Adversarial diffusion bridge model for reliable adversarial purification [21.2538921336578]
  近年,拡散型浄化法(DiffPure)は,敵の事例に対する効果的な防御法として認識されている。 DiffPureは, 元の事前学習拡散モデルを用いて, 逆流浄化を最適に行う。 本稿では,ADBMと呼ばれる新しいAdrialversa Diffusion Bridge Modelを提案する。
  論文  参考訳（メタデータ） (2024-08-01T06:26:05Z)
• Diffusion-based Adversarial Purification for Intrusion Detection [0.6990493129893112]
  不正な摂動はMLモデルを誤解させ、攻撃者が検出を回避したり、誤った警告をトリガーしたりすることを可能にする。 敵の浄化は、特に有望な結果を示す拡散モデルによって、説得力のある解決策として現れてきた。 本稿では,ネットワーク侵入検出における逆例の浄化における拡散モデルの有効性を示す。
  論文  参考訳（メタデータ） (2024-06-25T14:48:28Z)
• Improving Adversarial Transferability by Stable Diffusion [36.97548018603747]
  敵対的な例は 良心サンプルに 知覚不能な摂動を導入 予測を欺く ディープニューラルネットワーク(Deep Neural Network, DNN)は、良性サンプルに知覚不能な摂動を導入し、予測を誤認する敵の例に影響を受けやすい。 本稿では,SDAM(Stable Diffusion Attack Method)と呼ばれる新しい攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-11-18T09:10:07Z)
• Adversarial Purification for Data-Driven Power System Event Classifiers with Diffusion Models [0.8848340429852071]
  ファサー計測ユニット(PMU)のグローバル展開は、電力システムのリアルタイム監視を可能にする。 近年の研究では、機械学習に基づく手法が敵の攻撃に弱いことが示されている。 本稿では,拡散モデルに基づく効果的な対向的浄化手法を提案する。
  論文  参考訳（メタデータ） (2023-11-13T06:52:56Z)
• Enhancing Adversarial Robustness via Score-Based Optimization [22.87882885963586]
  敵対的攻撃は、わずかな摂動を導入することによって、ディープニューラルネットワーク分類器を誤認する可能性がある。 ScoreOptと呼ばれる新しい対向防御方式を導入し、テスト時に対向サンプルを最適化する。 実験の結果,本手法は性能とロバスト性の両方において,既存の敵防御よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-07-10T03:59:42Z)
• Reconstructing Graph Diffusion History from a Single Snapshot [87.20550495678907]
  A single SnapsHot (DASH) から拡散履歴を再構築するための新しいバリセンターの定式化を提案する。 本研究では,拡散パラメータ推定のNP硬度により,拡散パラメータの推定誤差が避けられないことを証明する。 また、DITTO(Diffusion hitting Times with Optimal proposal)という効果的な解法も開発している。
  論文  参考訳（メタデータ） (2023-06-01T09:39:32Z)
• Guided Diffusion Model for Adversarial Purification [103.4596751105955]
  敵攻撃は、様々なアルゴリズムやフレームワークでディープニューラルネットワーク(DNN)を妨害する。 本稿では,GDMP ( Guided diffusion model for purification) と呼ばれる新しい精製法を提案する。 様々なデータセットにわたる包括的実験において,提案したGDMPは,敵対的攻撃によって引き起こされた摂動を浅い範囲に減少させることを示した。
  論文  参考訳（メタデータ） (2022-05-30T10:11:15Z)
• Balancing detectability and performance of attacks on the control channel of Markov Decision Processes [77.66954176188426]
  マルコフ決定過程(MDPs)の制御チャネルにおける最適ステルス毒素攻撃の設計問題について検討する。 この研究は、MDPに適用された敵国・毒殺攻撃や強化学習(RL)手法に対する研究コミュニティの最近の関心に動機づけられている。
  論文  参考訳（メタデータ） (2021-09-15T09:13:10Z)
• Improving White-box Robustness of Pre-processing Defenses via Joint Adversarial Training [106.34722726264522]
  対向騒音の干渉を軽減するため,様々な対向防御技術が提案されている。 プレプロセス法は、ロバストネス劣化効果に悩まされることがある。 この負の効果の潜在的な原因は、敵の訓練例が静的であり、前処理モデルとは独立していることである。 本稿では,JATP(Joint Adversarial Training Based Pre-processing)防衛法を提案する。
  論文  参考訳（メタデータ） (2021-06-10T01:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。