論文の概要: Improving Adversarial Transferability via Neuron Attribution-Based Attacks

• arxiv url: http://arxiv.org/abs/2204.00008v1
• Date: Thu, 31 Mar 2022 13:47:30 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-04 15:19:51.218508
• Title: Improving Adversarial Transferability via Neuron Attribution-Based Attacks
• Title（参考訳）: ニューロンアトリビューションに基づく攻撃による対向移動性の改善
• Authors: Jianping Zhang, Weibin Wu, Jen-tse Huang, Yizhan Huang, Wenxuan Wang, Yuxin Su, Michael R. Lyu
• Abstract要約: 本稿では,より正確なニューロン重要度推定を行う機能レベルアタック(NAA)を提案する。 我々は、オーバーヘッドを大幅に減らすために、ニューロンの属性の近似スキームを導出する。 実験により、最先端のベンチマークに対する我々のアプローチの優位性が確認された。
• 参考スコア（独自算出の注目度）: 35.02147088207232
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) are known to be vulnerable to adversarial examples. It is thus imperative to devise effective attack algorithms to identify the deficiencies of DNNs beforehand in security-sensitive applications. To efficiently tackle the black-box setting where the target model's particulars are unknown, feature-level transfer-based attacks propose to contaminate the intermediate feature outputs of local models, and then directly employ the crafted adversarial samples to attack the target model. Due to the transferability of features, feature-level attacks have shown promise in synthesizing more transferable adversarial samples. However, existing feature-level attacks generally employ inaccurate neuron importance estimations, which deteriorates their transferability. To overcome such pitfalls, in this paper, we propose the Neuron Attribution-based Attack (NAA), which conducts feature-level attacks with more accurate neuron importance estimations. Specifically, we first completely attribute a model's output to each neuron in a middle layer. We then derive an approximation scheme of neuron attribution to tremendously reduce the computation overhead. Finally, we weight neurons based on their attribution results and launch feature-level attacks. Extensive experiments confirm the superiority of our approach to the state-of-the-art benchmarks.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵の例に弱いことが知られている。 したがって、セキュリティに敏感なアプリケーションにおいて、DNNの欠陥を事前に識別するために効果的な攻撃アルゴリズムを考案することが不可欠である。 対象モデルの特色が不明なブラックボックス設定に効果的に取り組むため、特徴レベル転送ベースアタックは、局所モデルの中間特徴出力を汚染し、製造した対向サンプルを直接使用してターゲットモデルを攻撃する。 特徴の伝達性のため、機能レベルの攻撃は、より伝達可能な敵のサンプルを合成する可能性を示している。 しかし、既存の特徴レベル攻撃は一般的に不正確なニューロンの重要度推定を採用しており、伝達性が低下する。 このような落とし穴を克服するために,我々はより正確なニューロン重要度推定による特徴レベル攻撃を行う神経属性ベースアタック(NAA)を提案する。 具体的には、まずモデル出力を中間層の各ニューロンに完全に属性付けする。 次に、計算オーバーヘッドを大幅に削減するために、ニューロン帰属の近似スキームを導出する。 最後に、ニューロンの属性結果に基づいて重み付けを行い、特徴レベルの攻撃を開始する。 広範な実験により、最先端ベンチマークに対する我々のアプローチの優位性が確認された。

関連論文リスト

• Rethinking Targeted Adversarial Attacks For Neural Machine Translation [56.10484905098989]
  本報告では,NMTが標的とする敵攻撃に対して,信頼性の高い攻撃結果をもたらす可能性のある新たな設定を提案する。 新しい設定では、敵の例を作成するためのTWGA(Targeted Word Gradient Adversarial Attack)手法を提案する。 実験の結果,提案手法はNMTシステムに対する敵攻撃に対して忠実な攻撃効果をもたらす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-07-07T10:16:06Z)
• DANAA: Towards transferable attacks with double adversarial neuron attribution [37.33924432015966]
  そこで我々は,DANAAと呼ばれる二重対向ニューロン帰属攻撃法を提案し,より正確な特徴重要度推定を行う。 目標は、個々のニューロンの重みを計測し、転送可能性にとってより重要な特徴を保持することである。
  論文  参考訳（メタデータ） (2023-10-16T14:11:32Z)
• Boosting Adversarial Transferability via Fusing Logits of Top-1 Decomposed Feature [36.78292952798531]
  本稿では,Singular Value Decomposition(SVD)に基づく特徴レベル攻撃法を提案する。 提案手法は,中間層特徴量より大きい特異値に付随する固有ベクトルがより優れた一般化と注意特性を示すという発見に着想を得たものである。
  論文  参考訳（メタデータ） (2023-05-02T12:27:44Z)
• Adversarial Robustness Assessment of NeuroEvolution Approaches [1.237556184089774]
  CIFAR-10画像分類タスクにおける2つのNeuroEvolutionアプローチにより得られたモデルのロバスト性を評価する。 以上の結果から,進化したモデルが反復的手法で攻撃されると,その精度は通常0に低下するか0に近づきます。 これらの技法のいくつかは、元の入力に付加された摂動を悪化させ、頑丈さを損なう可能性がある。
  論文  参考訳（メタデータ） (2022-07-12T10:40:19Z)
• Adversarial Robustness in Deep Learning: Attacks on Fragile Neurons [0.6899744489931016]
  第1畳み込み層の結節投棄を用いて, 深層学習アーキテクチャの脆弱で頑健なニューロンを同定した。 これらのニューロンは,ネットワーク上の敵攻撃の分布と相関する。
  論文  参考訳（メタデータ） (2022-01-31T14:34:07Z)
• Few-shot Backdoor Defense Using Shapley Estimation [123.56934991060788]
  我々は、深層ニューラルネットワークに対するバックドア攻撃を軽減するために、Shapley Pruningと呼ばれる新しいアプローチを開発した。 ShapPruningは、感染した数少ないニューロン(全ニューロンの1%以下)を特定し、モデルの構造と正確性を保護する。 様々な攻撃やタスクに対して,本手法の有効性とロバスト性を示す実験を行った。
  論文  参考訳（メタデータ） (2021-12-30T02:27:03Z)
• Meta Adversarial Perturbations [66.43754467275967]
  メタ逆境摂動(MAP)の存在を示す。 MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。 これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
  論文  参考訳（メタデータ） (2021-11-19T16:01:45Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
  我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。 私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。 整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
  論文  参考訳（メタデータ） (2021-02-21T03:13:27Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。