Fugu-MT 論文翻訳(概要): Ask, Attend, Attack: A Effective Decision-Based Black-Box Targeted Attack for Image-to-Text Models

論文の概要: Ask, Attend, Attack: A Effective Decision-Based Black-Box Targeted Attack for Image-to-Text Models

arxiv url: http://arxiv.org/abs/2408.08989v1
Date: Fri, 16 Aug 2024 19:35:06 GMT
ステータス: 処理完了
システム内更新日: 2024-08-20 23:06:45.969745
Title: Ask, Attend, Attack: A Effective Decision-Based Black-Box Targeted Attack for Image-to-Text Models
Title（参考訳）: Ask, Attend, Attack: 画像とテキストのモデルに対する効果的な意思決定ベースのブラックボックスターゲットアタック
Authors: Qingyuan Zeng, Zhenzhong Wang, Yiu-ming Cheung, Min Jiang,
Abstract要約: 本稿では,攻撃者が最終出力テキストにのみアクセスし,標的攻撃を行うことを目的とした決定ベースのブラックボックス攻撃という,困難なシナリオに焦点を当てる。 3段階のプロセス textitAsk, Attend, Attack は textitAAA と呼ばれ、解決者と協調するために提案されている。 Transformer-basedおよびCNN+RNN-based image-to-text modelの実験結果から,提案したtextitAAAの有効性が確認された。
参考スコア（独自算出の注目度）: 29.1607388062023
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: While image-to-text models have demonstrated significant advancements in various vision-language tasks, they remain susceptible to adversarial attacks. Existing white-box attacks on image-to-text models require access to the architecture, gradients, and parameters of the target model, resulting in low practicality. Although the recently proposed gray-box attacks have improved practicality, they suffer from semantic loss during the training process, which limits their targeted attack performance. To advance adversarial attacks of image-to-text models, this paper focuses on a challenging scenario: decision-based black-box targeted attacks where the attackers only have access to the final output text and aim to perform targeted attacks. Specifically, we formulate the decision-based black-box targeted attack as a large-scale optimization problem. To efficiently solve the optimization problem, a three-stage process \textit{Ask, Attend, Attack}, called \textit{AAA}, is proposed to coordinate with the solver. \textit{Ask} guides attackers to create target texts that satisfy the specific semantics. \textit{Attend} identifies the crucial regions of the image for attacking, thus reducing the search space for the subsequent \textit{Attack}. \textit{Attack} uses an evolutionary algorithm to attack the crucial regions, where the attacks are semantically related to the target texts of \textit{Ask}, thus achieving targeted attacks without semantic loss. Experimental results on transformer-based and CNN+RNN-based image-to-text models confirmed the effectiveness of our proposed \textit{AAA}.
Abstract（参考訳）: 画像からテキストへのモデルは、様々な視覚言語タスクにおいて顕著な進歩を示しているが、敵の攻撃を受けやすいままである。既存の画像とテキストのモデルに対するホワイトボックス攻撃は、ターゲットモデルのアーキテクチャ、勾配、パラメータへのアクセスを必要とするため、実用性は低い。最近提案されたグレーボックス攻撃は実用性を改善したが、トレーニングプロセス中に意味喪失に悩まされ、ターゲットとなる攻撃性能が制限された。本稿では,画像からテキストへの敵対的攻撃を推し進めるために,最終出力テキストにのみアクセス可能な決定ベースのブラックボックスターゲット攻撃とターゲット攻撃の実施という,困難なシナリオに焦点をあてる。具体的には,意思決定に基づくブラックボックス攻撃を大規模最適化問題として定式化する。最適化問題を効果的に解くため,3段階のプロセスである「textit{Ask, Attend, Attack}」が提案され,解法と協調する。 \textit{Ask} は攻撃者に特定の意味を満足するターゲットテキストを作成するよう誘導する。 \textit{Attend} は、攻撃する画像の重要な領域を特定し、それに続く \textit{Attack} の検索スペースを減らす。 \textit{Attack} は進化的アルゴリズムを用いて重要な領域を攻撃し、攻撃は \textit{Ask} のターゲットテキストと意味的に関連している。変換器とCNN+RNNを用いた画像からテキストへの変換実験の結果,提案手法の有効性が確認された。

関連論文リスト

Target-driven Attack for Large Language Models [14.784132523066567]
クリーンテキストと攻撃テキストの条件付き確率のKL差を最大化するターゲット駆動型ブラックボックス攻撃法を提案する。複数の大規模言語モデルとデータセットの実験結果から,攻撃手法の有効性が示された。
論文参考訳（メタデータ） (2024-11-09T15:59:59Z)
Enhancing Cross-Prompt Transferability in Vision-Language Models through Contextual Injection of Target Tokens [28.356269620160937]
我々は、勾配に基づく摂動を利用して、ターゲットトークンを視覚的・テキスト的両方の文脈に注入するコンテキストインジェクション攻撃(CIA)を提案する。 CIAは敵画像のクロスプロンプト転送性を高める。
論文参考訳（メタデータ） (2024-06-19T07:32:55Z)
AICAttack: Adversarial Image Captioning Attack with Attention-Based Optimization [13.045125782574306]
本稿では,画像上の微妙な摂動によって画像キャプションモデルを攻撃する新たな攻撃戦略であるAICAttackを提案する。ブラックボックス攻撃シナリオ内で動作するため、我々のアルゴリズムはターゲットモデルのアーキテクチャ、パラメータ、勾配情報へのアクセスを必要としない。複数の犠牲者モデルに対するベンチマークデータセットの広範な実験を通じて,AICAttackの有効性を実証する。
論文参考訳（メタデータ） (2024-02-19T08:27:23Z)
Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
論文参考訳（メタデータ） (2023-12-20T05:06:01Z)
I See Dead People: Gray-Box Adversarial Attack on Image-To-Text Models [0.0]
我々は、画像からテキストへのグレーボックスの逆攻撃を、未ターゲティングとターゲットの両方に提示する。攻撃はグレーボックス方式で実行され、デコーダモジュールに関する知識は不要です。また、私たちの攻撃は人気のあるオープンソースプラットフォームHugging Faceを騙していることも示しています。
論文参考訳（メタデータ） (2023-06-13T07:35:28Z)
Object-fabrication Targeted Attack for Object Detection [54.10697546734503]
物体検出の敵攻撃は標的攻撃と未標的攻撃を含む。新たなオブジェクトファブリケーションターゲット攻撃モードは、特定のターゲットラベルを持つ追加の偽オブジェクトをファブリケートする検出器を誤解させる可能性がある。
論文参考訳（メタデータ） (2022-12-13T08:42:39Z)
Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
論文参考訳（メタデータ） (2022-11-23T17:47:49Z)
Attackar: Attack of the Evolutionary Adversary [0.0]
本稿では、進化的、スコアベース、ブラックボックス攻撃であるtextitAttackarを紹介する。アタッカーは、勾配のない最適化問題に使用できる新しい目的関数に基づいている。以上の結果から,精度とクエリ効率の両面で,Attackarの優れた性能を示す。
論文参考訳（メタデータ） (2022-08-17T13:57:23Z)
Towards Variable-Length Textual Adversarial Attacks [68.27995111870712]
データの離散性のため、自然言語処理タスクに対してテキストによる敵意攻撃を行うことは非自明である。本稿では,可変長テキスト対比攻撃(VL-Attack)を提案する。本手法は、iwslt14ドイツ語英訳で3,18$ bleuスコアを達成でき、ベースラインモデルより1.47$改善できる。
論文参考訳（メタデータ） (2021-04-16T14:37:27Z)
Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
論文参考訳（メタデータ） (2020-09-24T06:22:56Z)
Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
論文参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。