Fugu-MT 論文翻訳(概要): Gradient-based Adversarial Attacks against Text Transformers

論文の概要: Gradient-based Adversarial Attacks against Text Transformers

arxiv url: http://arxiv.org/abs/2104.13733v1
Date: Thu, 15 Apr 2021 17:43:43 GMT
ステータス: 処理完了
システム内更新日: 2021-05-04 06:31:35.326409
Title: Gradient-based Adversarial Attacks against Text Transformers
Title（参考訳）: テキストトランスフォーマーに対する勾配に基づく逆攻撃
Authors: Chuan Guo, Alexandre Sablayrolles, Herv\'e J\'egou, Douwe Kiela
Abstract要約: トランスモデルに対する初の汎用勾配攻撃を提案する。我々は、ホワイトボックス攻撃が様々な自然言語タスクにおいて最先端の攻撃性能を達成することを実証的に実証する。
参考スコア（独自算出の注目度）: 96.73493433809419
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We propose the first general-purpose gradient-based attack against transformer models. Instead of searching for a single adversarial example, we search for a distribution of adversarial examples parameterized by a continuous-valued matrix, hence enabling gradient-based optimization. We empirically demonstrate that our white-box attack attains state-of-the-art attack performance on a variety of natural language tasks. Furthermore, we show that a powerful black-box transfer attack, enabled by sampling from the adversarial distribution, matches or exceeds existing methods, while only requiring hard-label outputs.
Abstract（参考訳）: トランスフォーマーモデルに対する最初の汎用勾配ベース攻撃を提案する。一つの逆例を探す代わりに、連続値行列でパラメータ化された逆例の分布を探索し、勾配に基づく最適化を可能にする。我々は、ホワイトボックス攻撃が様々な自然言語タスクにおいて最先端の攻撃性能を達成することを実証的に実証する。さらに,ハードラベル出力のみを必要とせず,既存の手法と一致または超過することで,強力なブラックボックス転送攻撃が可能となることを示す。

関連論文リスト

Efficient Generation of Targeted and Transferable Adversarial Examples for Vision-Language Models Via Diffusion Models [17.958154849014576]
大規模視覚言語モデル(VLM)のロバスト性を評価するために、敵対的攻撃を用いることができる。従来のトランスファーベースの敵攻撃は、高いイテレーション数と複雑なメソッド構造により、高いコストを発生させる。本稿では, 拡散モデルを用いて, 自然, 制約のない, 対象とする対向的な例を生成するAdvDiffVLMを提案する。
論文参考訳（メタデータ） (2024-04-16T07:19:52Z)
Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
論文参考訳（メタデータ） (2023-12-20T05:06:01Z)
Generalizable Black-Box Adversarial Attack with Meta Learning [54.196613395045595]
ブラックボックス攻撃では、ターゲットモデルのパラメータが不明であり、攻撃者はクエリのフィードバックに基づいて、クエリの予算に基づいて摂動を成功させることを目指している。本稿では,実例レベルの逆転可能性という,過去の攻撃に対するフィードバック情報を活用することを提案する。この2種類の逆転送性を持つフレームワークは,市販のクエリベースのアタック手法と自然に組み合わせて性能を向上させることができる。
論文参考訳（メタデータ） (2023-01-01T07:24:12Z)
Adversarial Pixel Restoration as a Pretext Task for Transferable Perturbations [54.1807206010136]
トランスファー可能な敵攻撃は、事前訓練された代理モデルと既知のラベル空間から敵を最適化し、未知のブラックボックスモデルを騙す。本稿では,効果的なサロゲートモデルをスクラッチからトレーニングするための自己教師型代替手段として,Adversarial Pixel Restorationを提案する。我々のトレーニングアプローチは、敵の目標を通したオーバーフィッティングを減らすmin-maxの目標に基づいています。
論文参考訳（メタデータ） (2022-07-18T17:59:58Z)
Adversarially Robust Classification by Conditional Generative Model Inversion [4.913248451323163]
本稿では,攻撃の事前知識を仮定することなく,勾配を難読化せず,構造的に堅牢な分類モデルを提案する。提案手法は,未成熟な自然画像に基づいて訓練された条件生成器を「反転」する最適化問題である。我々のモデルはブラックボックス攻撃に対して非常に堅牢であり、ホワイトボックス攻撃に対するロバスト性を改善したことを実証する。
論文参考訳（メタデータ） (2022-01-12T23:11:16Z)
Stochastic Variance Reduced Ensemble Adversarial Attack for Boosting the Adversarial Transferability [20.255708227671573]
ブラックボックスの敵攻撃は、あるモデルから別のモデルに転送することができる。本研究では,分散縮小アンサンブル攻撃と呼ばれる新しいアンサンブル攻撃法を提案する。実験結果から,提案手法は既存のアンサンブル攻撃を著しく上回り,対向移動性を向上する可能性が示唆された。
論文参考訳（メタデータ） (2021-11-21T06:33:27Z)
Boosting Transferability of Targeted Adversarial Examples via Hierarchical Generative Networks [56.96241557830253]
転送ベースの敵攻撃はブラックボックス設定におけるモデルロバスト性を効果的に評価することができる。本稿では,異なるクラスを対象にした対角的例を生成する条件生成攻撃モデルを提案する。提案手法は,既存の手法と比較して,標的となるブラックボックス攻撃の成功率を大幅に向上させる。
論文参考訳（メタデータ） (2021-07-05T06:17:47Z)
Enhancing the Transferability of Adversarial Attacks through Variance Tuning [6.5328074334512]
反復勾配に基づく攻撃手法のクラスを強化するための分散チューニングと呼ばれる新しい方法を提案する。標準のImageNetデータセットを用いた実験結果から,勾配に基づく敵攻撃の転送性を大幅に向上できることが示された。
論文参考訳（メタデータ） (2021-03-29T12:41:55Z)
Decision-based Universal Adversarial Attack [55.76371274622313]
ブラックボックス設定では、現在の普遍的敵攻撃法は代用モデルを用いて摂動を生成する。効率的な決定に基づくユニバーサルアタック(DUAttack)を提案する。 DUAttackの有効性は、他の最先端攻撃との比較によって検証される。
論文参考訳（メタデータ） (2020-09-15T12:49:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。