論文の概要: Mutual-modality Adversarial Attack with Semantic Perturbation

• arxiv url: http://arxiv.org/abs/2312.12768v1
• Date: Wed, 20 Dec 2023 05:06:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-21 16:53:08.375896
• Title: Mutual-modality Adversarial Attack with Semantic Perturbation
• Title（参考訳）: セマンティック摂動による相互モダリティ逆行攻撃
• Authors: Jingwen Ye, Ruonan Yu, Songhua Liu, Xinchao Wang
• Abstract要約: 本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
• 参考スコア（独自算出の注目度）: 81.66172089175346
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Adversarial attacks constitute a notable threat to machine learning systems, given their potential to induce erroneous predictions and classifications. However, within real-world contexts, the essential specifics of the deployed model are frequently treated as a black box, consequently mitigating the vulnerability to such attacks. Thus, enhancing the transferability of the adversarial samples has become a crucial area of research, which heavily relies on selecting appropriate surrogate models. To address this challenge, we propose a novel approach that generates adversarial attacks in a mutual-modality optimization scheme. Our approach is accomplished by leveraging the pre-trained CLIP model. Firstly, we conduct a visual attack on the clean image that causes semantic perturbations on the aligned embedding space with the other textual modality. Then, we apply the corresponding defense on the textual modality by updating the prompts, which forces the re-matching on the perturbed embedding space. Finally, to enhance the attack transferability, we utilize the iterative training strategy on the visual attack and the textual defense, where the two processes optimize from each other. We evaluate our approach on several benchmark datasets and demonstrate that our mutual-modal attack strategy can effectively produce high-transferable attacks, which are stable regardless of the target networks. Our approach outperforms state-of-the-art attack methods and can be readily deployed as a plug-and-play solution.
• Abstract（参考訳）: 敵対的攻撃は、誤った予測と分類を誘発する可能性を考えると、機械学習システムに対する顕著な脅威となっている。 しかしながら、現実世界のコンテキストでは、デプロイされたモデルの必須仕様はしばしばブラックボックスとして扱われるため、そのような攻撃に対する脆弱性を緩和する。 したがって, 対向サンプルの転送可能性の向上は, 適切なサロゲートモデルの選択に大きく依存する重要な研究領域となっている。 そこで本研究では, 相互モダリティ最適化手法において, 逆攻撃を発生させる新しい手法を提案する。 私たちのアプローチは、事前訓練されたCLIPモデルを活用することで実現されます。 まず,アライメント埋め込み空間と他のテキストモダリティに意味的摂動を引き起こすクリーンイメージに対して視覚的な攻撃を行う。 そして,プロンプトを更新することにより,テキストのモダリティに対応する防御を施し,摂動埋め込み空間上の再マッチングを強制する。 最後に,攻撃伝達性を高めるために,視覚攻撃における反復的訓練戦略と,2つのプロセスが相互に最適化するテクスト防御を用いる。 本手法をいくつかのベンチマークデータセットで評価し,ターゲットネットワークによらず安定な高移動性攻撃を効果的に生成できることを実証した。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。

関連論文リスト

• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
  多粒性摂動を取り入れた高品質な逆数例を作成する。 我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。 本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
  論文  参考訳（メタデータ） (2024-04-02T02:08:29Z)
• Enhancing Adversarial Attacks: The Similar Target Method [6.293148047652131]
  敵対的な例は、ディープニューラルネットワークのアプリケーションに脅威をもたらす。 ディープニューラルネットワークは敵の例に対して脆弱であり、モデルのアプリケーションに脅威を与え、セキュリティ上の懸念を提起する。 我々はSimisal Target(ST)という類似の攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-08-21T14:16:36Z)
• Introducing Foundation Models as Surrogate Models: Advancing Towards More Practical Adversarial Attacks [15.882687207499373]
  箱なしの敵攻撃は、AIシステムにとってより実用的で難しいものになりつつある。 本稿では,サロゲートモデルとして基礎モデルを導入することにより,逆攻撃を下流タスクとして再放送する。
  論文  参考訳（メタデータ） (2023-07-13T08:10:48Z)
• Resisting Deep Learning Models Against Adversarial Attack Transferability via Feature Randomization [17.756085566366167]
  本研究では,ディープラーニングモデルを対象とした8つの敵攻撃に抵抗する特徴ランダム化に基づく手法を提案する。 本手法は,標的ネットワークを確保でき,敵の攻撃伝達可能性に対して60%以上抵抗することができる。
  論文  参考訳（メタデータ） (2022-09-11T20:14:12Z)
• Learning to Learn Transferable Attack [77.67399621530052]
  転送逆行攻撃は非自明なブラックボックス逆行攻撃であり、サロゲートモデル上で敵の摂動を発生させ、そのような摂動を被害者モデルに適用することを目的としている。 本研究では,データとモデル拡張の両方から学習することで,敵の摂動をより一般化する学習可能な攻撃学習法(LLTA)を提案する。 提案手法の有効性を実証し, 現状の手法と比較して, 12.85%のトランスファー攻撃の成功率で検証した。
  論文  参考訳（メタデータ） (2021-12-10T07:24:21Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
  本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。 これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
  論文  参考訳（メタデータ） (2021-04-26T07:26:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。