論文の概要: AICAttack: Adversarial Image Captioning Attack with Attention-Based Optimization

• arxiv url: http://arxiv.org/abs/2402.11940v3
• Date: Thu, 5 Sep 2024 05:06:57 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-07 03:56:02.579305
• Title: AICAttack: Adversarial Image Captioning Attack with Attention-Based Optimization
• Title（参考訳）: AICAttack: 注意に基づく最適化による敵対的イメージキャプション攻撃
• Authors: Jiyao Li, Mingze Ni, Yifei Dong, Tianqing Zhu, Wei Liu,
• Abstract要約: 本稿では,画像上の微妙な摂動によって画像キャプションモデルを攻撃する新たな攻撃戦略であるAICAttackを提案する。 ブラックボックス攻撃シナリオ内で動作するため、我々のアルゴリズムはターゲットモデルのアーキテクチャ、パラメータ、勾配情報へのアクセスを必要としない。 複数の犠牲者モデルに対するベンチマークデータセットの広範な実験を通じて,AICAttackの有効性を実証する。
• 参考スコア（独自算出の注目度）: 13.045125782574306
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in deep learning research have shown remarkable achievements across many tasks in computer vision (CV) and natural language processing (NLP). At the intersection of CV and NLP is the problem of image captioning, where the related models' robustness against adversarial attacks has not been well studied. This paper presents a novel adversarial attack strategy, AICAttack (Attention-based Image Captioning Attack), designed to attack image captioning models through subtle perturbations on images. Operating within a black-box attack scenario, our algorithm requires no access to the target model's architecture, parameters, or gradient information. We introduce an attention-based candidate selection mechanism that identifies the optimal pixels to attack, followed by a customised differential evolution method to optimise the perturbations of pixels' RGB values. We demonstrate AICAttack's effectiveness through extensive experiments on benchmark datasets against multiple victim models. The experimental results demonstrate that our method outperforms current leading-edge techniques by achieving consistently higher attack success rates.
• Abstract（参考訳）: 近年のディープラーニング研究の進歩は、コンピュータビジョン(CV)や自然言語処理(NLP)において、多くのタスクにおいて顕著な成果を上げている。 CVとNLPの交わりは画像キャプションの問題であり、敵攻撃に対する関連モデルの堅牢性は十分に研究されていない。 本稿では,画像上の微妙な摂動によって画像キャプションモデルを攻撃するために,新たな敵攻撃戦略であるAICAttackを提案する。 ブラックボックス攻撃シナリオ内で動作するため、ターゲットモデルのアーキテクチャ、パラメータ、勾配情報へのアクセスは不要である。 攻撃対象の画素を最適に識別するアテンションベースの候補選択機構を導入し,RGB値の摂動を最適化するための差分展開法をカスタマイズした。 複数の犠牲者モデルに対するベンチマークデータセットの広範な実験を通じて,AICAttackの有効性を実証する。 実験結果から,本手法は攻撃成功率を一定に高めることにより,従来の先行技術よりも優れた性能を示すことが示された。

関連論文リスト

• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
  ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。 本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-12-08T09:08:50Z)
• Adv-Attribute: Inconspicuous and Transferable Adversarial Attack on Face Recognition [111.1952945740271]
  Adv-Attribute (Adv-Attribute) は、顔認証に対する不明瞭で伝達可能な攻撃を生成するように設計されている。 FFHQとCelebA-HQデータセットの実験は、提案されたAdv-Attributeメソッドが最先端の攻撃成功率を達成することを示している。
  論文  参考訳（メタデータ） (2022-10-13T09:56:36Z)
• Meta Adversarial Perturbations [66.43754467275967]
  メタ逆境摂動(MAP)の存在を示す。 MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。 これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
  論文  参考訳（メタデータ） (2021-11-19T16:01:45Z)
• Geometrically Adaptive Dictionary Attack on Face Recognition [23.712389625037442]
  顔認証に対するクエリ効率の良いブラックボックス攻撃のための戦略を提案する。 中心となるアイデアは、UVテクスチャマップに逆方向の摂動を作り、それを画像の顔に投影することです。 LFWデータセットとCPLFWデータセットの実験において、圧倒的な性能改善を示す。
  論文  参考訳（メタデータ） (2021-11-08T10:26:28Z)
• Bridge the Gap Between CV and NLP! A Gradient-based Textual Adversarial Attack Framework [17.17479625646699]
  そこで本研究では,テキストの敵対的サンプルを作成するための統一的なフレームワークを提案する。 本稿では,T-PGD(Textual Projected Gradient Descent)という攻撃アルゴリズムを用いて,我々のフレームワークをインスタンス化する。
  論文  参考訳（メタデータ） (2021-10-28T17:31:51Z)
• Deep Image Destruction: A Comprehensive Study on Vulnerability of Deep Image-to-Image Models against Adversarial Attacks [104.8737334237993]
  本稿では,敵対的攻撃に対する深部画像対画像モデルの脆弱性に関する包括的調査を行う。 一般的な5つの画像処理タスクでは、さまざまな観点から16の深いモデルが分析される。 画像分類タスクとは異なり、画像間タスクの性能劣化は様々な要因によって大きく異なることが示される。
  論文  参考訳（メタデータ） (2021-04-30T14:20:33Z)
• AdvHaze: Adversarial Haze Attack [19.744435173861785]
  現実世界の風景に共通する現象であるヘイズに基づく新たな敵対攻撃法を紹介します。 本手法は, 大気散乱モデルに基づく画像に, 高い現実性で, 潜在的に逆転するハゼを合成することができる。 提案手法は,高い成功率を達成し,ベースラインと異なる分類モデル間での転送性が向上することを示す。
  論文  参考訳（メタデータ） (2021-04-28T09:52:25Z)
• PICA: A Pixel Correlation-based Attentional Black-box Adversarial Attack [37.15301296824337]
  PICAと呼ばれる画素相関に基づく注目ブラックボックス対向攻撃を提案する。 PICAは、既存のブラックボックス攻撃と比較して高解像度の逆例を生成するのが効率的である。
  論文  参考訳（メタデータ） (2021-01-19T09:53:52Z)
• Reinforcement Learning-based Black-Box Evasion Attacks to Link Prediction in Dynamic Graphs [87.5882042724041]
  動的グラフ(LPDG)におけるリンク予測は、多様な応用を持つ重要な研究課題である。 我々は,LPDG法の脆弱性を調査し,最初の実用的なブラックボックス回避攻撃を提案する。
  論文  参考訳（メタデータ） (2020-09-01T01:04:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。