論文の概要: Instruct2Attack: Language-Guided Semantic Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2311.15551v1
• Date: Mon, 27 Nov 2023 05:35:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-28 17:05:33.196940
• Title: Instruct2Attack: Language-Guided Semantic Adversarial Attacks
• Title（参考訳）: Instruct2Attack: 言語誘導のセマンティックアタック
• Authors: Jiang Liu, Chen Wei, Yuxiang Guo, Heng Yu, Alan Yuille, Soheil Feizi, Chun Pong Lau, Rama Chellappa
• Abstract要約: Instruct2Attack (I2A) は、自由形式の言語命令に従って意味のある摂動を生成する言語誘導セマンティックアタックである。 我々は最先端の潜伏拡散モデルを用いて、逆拡散過程を逆ガイドし、入力画像とテキスト命令に条件付けされた逆潜伏符号を探索する。 I2Aは、強い敵の防御の下でも最先端のディープニューラルネットワークを破ることができることを示す。
• 参考スコア（独自算出の注目度）: 76.83548867066561
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We propose Instruct2Attack (I2A), a language-guided semantic attack that generates semantically meaningful perturbations according to free-form language instructions. We make use of state-of-the-art latent diffusion models, where we adversarially guide the reverse diffusion process to search for an adversarial latent code conditioned on the input image and text instruction. Compared to existing noise-based and semantic attacks, I2A generates more natural and diverse adversarial examples while providing better controllability and interpretability. We further automate the attack process with GPT-4 to generate diverse image-specific text instructions. We show that I2A can successfully break state-of-the-art deep neural networks even under strong adversarial defenses, and demonstrate great transferability among a variety of network architectures.
• Abstract（参考訳）: 自由形式の言語命令に従って意味的に意味のある摂動を生成する言語誘導意味攻撃であるinstruct2attack(i2a)を提案する。 我々は,最先端の潜在拡散モデルを用いて,逆拡散過程を相反的にガイドし,入力画像とテキスト命令を条件とした逆潜在拡散符号を探索する。 既存のノイズベースやセマンティックアタックと比較して、I2Aはより自然で多様な敵の例を生成し、制御性と解釈性を向上させる。 さらに、gpt-4で攻撃プロセスを自動化し、画像固有のテキスト命令を生成する。 i2aは強力な防御下でも最先端のディープニューラルネットワークを破ることができ、様々なネットワークアーキテクチャ間で大きな転送性を示している。

関連論文リスト

• Natural Language Induced Adversarial Images [14.415478695871604]
  本稿では,自然言語による逆画像攻撃手法を提案する。 中心となる考え方は、入力プロンプトが与えられた逆画像を生成するために、テキスト・ツー・イメージモデルを活用することである。 実験の結果,"foggy","humid","stretching"などの高周波意味情報が誤りを生じやすいことがわかった。
  論文  参考訳（メタデータ） (2024-10-11T08:36:07Z)
• DiffuseDef: Improved Robustness to Adversarial Attacks [38.34642687239535]
  敵の攻撃は、事前訓練された言語モデルを使って構築されたシステムにとって重要な課題となる。 本稿では,拡散層をエンコーダと分類器のデノイザとして組み込んだDiffuseDefを提案する。 推測中、敵対的隠蔽状態はまずサンプルノイズと組み合わせられ、次に反復的に復調され、最後にアンサンブルされ、堅牢なテキスト表現が生成される。
  論文  参考訳（メタデータ） (2024-06-28T22:36:17Z)
• Few-Shot Adversarial Prompt Learning on Vision-Language Models [62.50622628004134]
  知覚不能な逆境摂動に対するディープニューラルネットワークの脆弱性は、広く注目を集めている。 それまでの努力は、相手の視覚的特徴をテキストの監督と整合させることで、ゼロショットの敵の堅牢性を達成した。 本稿では、限られたデータで入力シーケンスを適応させることで、対向性を大幅に向上させる、数ショットの対向的プロンプトフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-21T18:28:43Z)
• VL-Trojan: Multimodal Instruction Backdoor Attacks against Autoregressive Visual Language Models [65.23688155159398]
  VLM(Autoregressive Visual Language Models)は、マルチモーダルなコンテキストにおいて、驚くべき数ショットの学習機能を示す。 近年,マルチモーダル・インストラクション・チューニングが提案されている。 敵は、指示や画像に埋め込まれたトリガーで有毒なサンプルを注入することで、バックドアを埋め込むことができる。 本稿では,マルチモーダルなバックドア攻撃,すなわちVL-Trojanを提案する。
  論文  参考訳（メタデータ） (2024-02-21T14:54:30Z)
• AutoDAN: Interpretable Gradient-Based Adversarial Attacks on Large Language Models [55.748851471119906]
  LLM(Large Language Models)の安全性の整合性は、手動のジェイルブレイク攻撃や(自動)敵攻撃によって損なわれる可能性がある。 最近の研究は、これらの攻撃に対する防御が可能であることを示唆している。敵攻撃は無限だが読めないジベリッシュプロンプトを生成し、難易度に基づくフィルタによって検出できる。 両攻撃の強度をマージする,解釈可能な勾配に基づく対向攻撃であるAutoDANを導入する。
  論文  参考訳（メタデータ） (2023-10-23T17:46:07Z)
• Language Guided Adversarial Purification [3.9931474959554496]
  生成モデルを用いた対向浄化は、強い対向防御性能を示す。 新しいフレームワーク、Language Guided Adversarial Purification (LGAP)は、事前訓練された拡散モデルとキャプションジェネレータを利用する。
  論文  参考訳（メタデータ） (2023-09-19T06:17:18Z)
• Controlled Caption Generation for Images Through Adversarial Attacks [85.66266989600572]
  画像特徴抽出には畳み込みニューラルネットワーク(CNN)、キャプション生成にはリカレントニューラルネットワーク(RNN)が使用される。 特に、その後の再帰的ネットワークに供給される視覚エンコーダの隠蔽層に対する攻撃について検討する。 本稿では、CNNの内部表現を模倣したニューラルネットワークキャプションの逆例を作成するためのGANベースのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-07-07T07:22:41Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)
• Generating Semantic Adversarial Examples via Feature Manipulation [23.48763375455514]
  本稿では,意味的意味を持つ構造的摂動を設計することで,より現実的な敵攻撃を提案する。 提案手法は,非絡み付きラテント符号を用いて画像の意味的属性を演算する。 我々は、普遍的で画像に依存しないセマンティック・逆境の例の存在を実証する。
  論文  参考訳（メタデータ） (2020-01-06T06:28:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。