論文の概要: VENOM: Text-driven Unrestricted Adversarial Example Generation with Diffusion Models

• arxiv url: http://arxiv.org/abs/2501.07922v1
• Date: Tue, 14 Jan 2025 08:12:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-15 13:29:18.547627
• Title: VENOM: Text-driven Unrestricted Adversarial Example Generation with Diffusion Models
• Title（参考訳）: VENOM:拡散モデルを用いたテキスト駆動非制限逆例生成
• Authors: Hui Kuurila-Zhang, Haoyu Chen, Guoying Zhao,
• Abstract要約: VENOMは拡散モデルによる高品質な非制限逆例生成のための最初のフレームワークである。 本研究では,適応的逆方向誘導戦略を運動量付きで導入し,生成した逆方向の例が自然画像の逆方向の分布$p(x)$と一致することを保証する。
• 参考スコア（独自算出の注目度）: 26.513728933354958
• License:
• Abstract: Adversarial attacks have proven effective in deceiving machine learning models by subtly altering input images, motivating extensive research in recent years. Traditional methods constrain perturbations within $l_p$-norm bounds, but advancements in Unrestricted Adversarial Examples (UAEs) allow for more complex, generative-model-based manipulations. Diffusion models now lead UAE generation due to superior stability and image quality over GANs. However, existing diffusion-based UAE methods are limited to using reference images and face challenges in generating Natural Adversarial Examples (NAEs) directly from random noise, often producing uncontrolled or distorted outputs. In this work, we introduce VENOM, the first text-driven framework for high-quality unrestricted adversarial examples generation through diffusion models. VENOM unifies image content generation and adversarial synthesis into a single reverse diffusion process, enabling high-fidelity adversarial examples without sacrificing attack success rate (ASR). To stabilize this process, we incorporate an adaptive adversarial guidance strategy with momentum, ensuring that the generated adversarial examples $x^*$ align with the distribution $p(x)$ of natural images. Extensive experiments demonstrate that VENOM achieves superior ASR and image quality compared to prior methods, marking a significant advancement in adversarial example generation and providing insights into model vulnerabilities for improved defense development.
• Abstract（参考訳）: 敵対的攻撃は、入力画像を微調整することで機械学習モデルを欺くのに有効であることが証明されており、近年の広範な研究の動機となっている。 従来のメソッドは$l_p$-norm境界内での摂動を制限するが、Unrestricted Adversarial Examples (UAEs)の進歩により、より複雑な生成モデルベースの操作が可能になった。 拡散モデルは、GANよりも安定性と画質が優れているため、UAE生成をリードする。 しかし、既存の拡散型UAE法は、ランダムノイズからNAE(Natural Adversarial Examples)を直接生成する際の参照画像と顔課題の使用に限られており、しばしば制御されていないあるいは歪んだ出力を生成する。 本研究では,拡散モデルによる高品質な非制限逆例生成のためのテキスト駆動型フレームワークVENOMを紹介する。 VENOMは、画像コンテンツの生成と逆合成を単一の逆拡散プロセスに統合し、攻撃成功率(ASR)を犠牲にすることなく、高忠実な逆転例を可能にする。 この過程を安定化するために、適応的な逆方向誘導戦略を運動量に組み込むことで、生成した逆方向の例$x^*$が自然画像の分布$p(x)$と整合することを保証する。 VENOMは従来の手法に比べて優れたASRと画像品質を実現し、敵のサンプル生成の大幅な進歩を示し、防御開発を改善するためのモデル脆弱性に関する洞察を提供する。

関連論文リスト

• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• A Grey-box Attack against Latent Diffusion Model-based Image Editing by Posterior Collapse [9.777410374242972]
  生成AI、特に潜在拡散モデル(LDM)の最近の進歩は、画像合成と操作に革命をもたらした。 VAEが訓練中に後部崩壊をきたすという観察に基づくPCA(Posterior Collapse Attack)を提案する。 本手法は,対象モデルのホワイトボックス情報への依存を最小限に抑え,モデル固有の知識への暗黙的な依存を取り除く。
  論文  参考訳（メタデータ） (2024-08-20T14:43:53Z)
• Few-Shot Image Generation by Conditional Relaxing Diffusion Inversion [37.18537753482751]
  条件拡散緩和インバージョン(CRDI)は、合成画像生成における分布の多様性を高めるために設計されている。 CRDIはいくつかのサンプルに基づいた微調整を頼りにしていない。 ターゲットの画像インスタンスの再構築と、数ショットの学習による多様性の拡大に重点を置いている。
  論文  参考訳（メタデータ） (2024-07-09T21:58:26Z)
• Perturbing Attention Gives You More Bang for the Buck: Subtle Imaging Perturbations That Efficiently Fool Customized Diffusion Models [11.91784429717735]
  疑似潜伏拡散モデル(LDM)に対する汎用的で効率的なアプローチであるCAATを提案する。 画像上の微妙な勾配が相互注意層に大きく影響し,テキストと画像のマッピングが変化することを示す。 実験により、CAATは多様な拡散モデルと互換性があり、ベースライン攻撃法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-04-23T14:31:15Z)
• Breaking Free: How to Hack Safety Guardrails in Black-Box Diffusion Models! [52.0855711767075]
  EvoSeedは、フォトリアリスティックな自然対向サンプルを生成するための進化戦略に基づくアルゴリズムフレームワークである。 我々は,CMA-ESを用いて初期種ベクトルの探索を最適化し,条件付き拡散モデルで処理すると,自然逆数サンプルをモデルで誤分類する。 実験の結果, 生成した対向画像は画像品質が高く, 安全分類器を通過させることで有害なコンテンツを生成する懸念が高まっていることがわかった。
  論文  参考訳（メタデータ） (2024-02-07T09:39:29Z)
• Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent Diffusion Model [61.53213964333474]
  本稿では,生の画素空間ではなく,潜在空間における非知覚的対角的アイデンティティ摂動を生成できる統一的なフレームワークAdv-Diffusionを提案する。 具体的には,周囲のセマンティックな摂動を生成するために,個人性に敏感な条件付き拡散生成モデルを提案する。 設計された適応強度に基づく対向摂動アルゴリズムは、攻撃の伝達性とステルス性の両方を確保することができる。
  論文  参考訳（メタデータ） (2023-12-18T15:25:23Z)
• Steered Diffusion: A Generalized Framework for Plug-and-Play Conditional Image Synthesis [62.07413805483241]
  Steered Diffusionは、無条件生成のために訓練された拡散モデルを用いたゼロショット条件画像生成のためのフレームワークである。 塗装,着色,テキスト誘導セマンティック編集,画像超解像などのタスクに対して,ステアリング拡散を用いた実験を行った。
  論文  参考訳（メタデータ） (2023-09-30T02:03:22Z)
• AdvDiff: Generating Unrestricted Adversarial Examples using Diffusion Models [7.406040859734522]
  制限のない敵攻撃は、深層学習モデルや敵防衛技術に深刻な脅威をもたらす。 以前の攻撃法は、しばしば生成モデルのサンプリングに投影された勾配(PGD)を直接注入する。 本稿では,拡散モデルを用いた非制限逆例を生成するAdvDiffと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-07-24T03:10:02Z)
• Data Forensics in Diffusion Models: A Systematic Analysis of Membership Privacy [62.16582309504159]
  本研究では,拡散モデルに対するメンバシップ推論攻撃の系統的解析を開発し,各攻撃シナリオに適した新しい攻撃手法を提案する。 提案手法は容易に入手可能な量を利用して,現実的なシナリオにおいてほぼ完全な攻撃性能 (>0.9 AUCROC) を達成することができる。
  論文  参考訳（メタデータ） (2023-02-15T17:37:49Z)
• Auto-regressive Image Synthesis with Integrated Quantization [55.51231796778219]
  本稿では,条件付き画像生成のための多目的フレームワークを提案する。 CNNの帰納バイアスと自己回帰の強力なシーケンスモデリングが組み込まれている。 提案手法は,最先端技術と比較して,優れた多彩な画像生成性能を実現する。
  論文  参考訳（メタデータ） (2022-07-21T22:19:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。