論文の概要: DI-AA: An Interpretable White-box Attack for Fooling Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2110.07305v1
• Date: Thu, 14 Oct 2021 12:15:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-15 15:08:23.758238
• Title: DI-AA: An Interpretable White-box Attack for Fooling Deep Neural Networks
• Title（参考訳）: DI-AA:ディープニューラルネットワークの解釈可能なホワイトボックス攻撃
• Authors: Yixiang Wang, Jiqiang Liu, Xiaolin Chang, Jianhua Wang, Ricardo J. Rodr\'iguez
• Abstract要約: ディープニューラルネットワーク(DNN)に対するAE攻撃は、ブラックボックスAE攻撃よりも強力な破壊能力を持つ。 本稿では,解釈可能なWhite-box AE攻撃手法であるDI-AAを提案する。
• 参考スコア（独自算出の注目度）: 6.704751710867746
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: White-box Adversarial Example (AE) attacks towards Deep Neural Networks (DNNs) have a more powerful destructive capacity than black-box AE attacks in the fields of AE strategies. However, almost all the white-box approaches lack interpretation from the point of view of DNNs. That is, adversaries did not investigate the attacks from the perspective of interpretable features, and few of these approaches considered what features the DNN actually learns. In this paper, we propose an interpretable white-box AE attack approach, DI-AA, which explores the application of the interpretable approach of the deep Taylor decomposition in the selection of the most contributing features and adopts the Lagrangian relaxation optimization of the logit output and L_p norm to further decrease the perturbation. We compare DI-AA with six baseline attacks (including the state-of-the-art attack AutoAttack) on three datasets. Experimental results reveal that our proposed approach can 1) attack non-robust models with comparatively low perturbation, where the perturbation is closer to or lower than the AutoAttack approach; 2) break the TRADES adversarial training models with the highest success rate; 3) the generated AE can reduce the robust accuracy of the robust black-box models by 16% to 31% in the black-box transfer attack.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)に対するAE攻撃は、AE戦略の分野におけるブラックボックスAE攻撃よりも強力な破壊能力を持つ。 しかし、ほとんどのホワイトボックスアプローチはDNNの観点からの解釈を欠いている。 つまり、敵は解釈可能な特徴の観点から攻撃を調査しておらず、これらのアプローチのいくつかはDNNが実際に学習する機能について考慮していない。 本稿では,最も寄与する特徴の選択におけるディープテイラー分解の解釈可能なアプローチの適用を探求し,ロジット出力とl_pノルムのラグランジュ緩和最適化を適用し,さらに摂動を減少させる,解釈可能なホワイトボックスae攻撃手法であるdi-aaを提案する。 DI-AAと6つのベースライン攻撃(最先端のAutoAttackを含む)を3つのデータセットで比較する。 実験結果から 提案手法が 1)比較的低摂動率の非ロバストモデルに対して,摂動がオートアタックアプローチに近かったり低かったりする。 2) 最も成功率の高い取引相手の訓練モデルを破る。 3) 生成したaeは, ブラックボックス転送攻撃においてロバストなブラックボックスモデルのロバスト精度を16%から31%削減できる。

関連論文リスト

• DifAttack: Query-Efficient Black-Box Attack via Disentangled Feature Space [6.238161846680642]
  本研究は,高攻撃成功率(ASR)と良好な一般化性を備えた,効率的なスコアベースブラックボックス攻撃について検討する。 本研究では,DifAttackと呼ばれる,DifAttackと呼ばれる不整形特徴空間に基づく新たな攻撃手法を設計する。
  論文  参考訳（メタデータ） (2023-09-26T00:15:13Z)
• Towards Lightweight Black-Box Attacks against Deep Neural Networks [70.9865892636123]
  ブラックボックス攻撃は、いくつかのテストサンプルしか利用できない実用的な攻撃を引き起こす可能性があると我々は主張する。 いくつかのサンプルが必要なので、これらの攻撃を軽量なブラックボックス攻撃と呼ぶ。 近似誤差を軽減するために,Error TransFormer (ETF) を提案する。
  論文  参考訳（メタデータ） (2022-09-29T14:43:03Z)
• Attackar: Attack of the Evolutionary Adversary [0.0]
  本稿では、進化的、スコアベース、ブラックボックス攻撃であるtextitAttackarを紹介する。 アタッカーは、勾配のない最適化問題に使用できる新しい目的関数に基づいている。 以上の結果から,精度とクエリ効率の両面で,Attackarの優れた性能を示す。
  論文  参考訳（メタデータ） (2022-08-17T13:57:23Z)
• Art-Attack: Black-Box Adversarial Attack via Evolutionary Art [5.760976250387322]
  ディープニューラルネットワーク(DNN)は多くのタスクで最先端のパフォーマンスを達成したが、敵の例によって生成された攻撃に対して極端な脆弱性を示している。 本稿では, 進化芸術の概念を用いて, 敵対的事例を生成することによって, 勾配のない攻撃を提案する。
  論文  参考訳（メタデータ） (2022-03-07T12:54:09Z)
• Detect and Defense Against Adversarial Examples in Deep Learning using Natural Scene Statistics and Adaptive Denoising [12.378017309516965]
  本稿では,DNN を敵のサンプルから守るためのフレームワークを提案する。 この検出器は、自然の景観統計を利用してAEを検出することを目的としている。 提案手法は最先端の防御技術より優れている。
  論文  参考訳（メタデータ） (2021-07-12T23:45:44Z)
• Going Far Boosts Attack Transferability, but Do Not Do It [16.901240544106948]
  7つの最適化アルゴリズム,4つのサロゲート,9つのブラックボックスモデルに関する包括的実験により,攻撃伝達性に対する最適化の影響を検討した。 最適化アルゴリズムからのAEsの様々な転送性は、元のサンプルから得られたRoot Mean Square Error(RMSE)と強く関係している。 LARAは転送可能性を大幅に20%改善するが、DNNの脆弱性を利用するには不十分である。
  論文  参考訳（メタデータ） (2021-02-20T13:19:31Z)
• Boosting Gradient for White-Box Adversarial Attacks [60.422511092730026]
  そこで本研究では,ADV-ReLUと呼ばれる,勾配に基づくホワイトボックス攻撃アルゴリズムの性能向上を目的とした,汎用的な逆例生成手法を提案する。 提案手法では,損失関数とネットワーク入力の勾配を算出し,その値をスコアにマップし,その一部を選択して誤導勾配を更新する。
  論文  参考訳（メタデータ） (2020-10-21T02:13:26Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Decision-based Universal Adversarial Attack [55.76371274622313]
  ブラックボックス設定では、現在の普遍的敵攻撃法は代用モデルを用いて摂動を生成する。 効率的な決定に基づくユニバーサルアタック(DUAttack)を提案する。 DUAttackの有効性は、他の最先端攻撃との比較によって検証される。
  論文  参考訳（メタデータ） (2020-09-15T12:49:03Z)
• Diversity can be Transferred: Output Diversification for White- and Black-box Attacks [89.92353493977173]
  アドリア攻撃は、例えば最適化ベースのホワイトボックス攻撃を初期化したり、ブラックボックス攻撃で更新方向を生成するために、均一あるいはガウス分布から引き出された入力のランダムな摂動を伴うことが多い。 本稿では,対象モデルの出力の多様性を最大化するための新しいサンプリング手法である出力分散サンプリング(ODS)を提案する。 ODSは、既存のホワイトボックス攻撃とブラックボックス攻撃のパフォーマンスを大幅に改善する。 特に、ODSはImageNetに対する最先端のブラックボックス攻撃に必要なクエリ数を2倍に削減する。
  論文  参考訳（メタデータ） (2020-03-15T17:49:25Z)
• Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural Gradient Descent [92.4348499398224]
  ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。 敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。 ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
  論文  参考訳（メタデータ） (2020-02-18T21:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。