論文の概要: Generating Adversarial Examples with Better Transferability via Masking Unimportant Parameters of Surrogate Model

• arxiv url: http://arxiv.org/abs/2304.06908v1
• Date: Fri, 14 Apr 2023 03:06:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-17 14:53:06.644650
• Title: Generating Adversarial Examples with Better Transferability via Masking Unimportant Parameters of Surrogate Model
• Title（参考訳）: サロゲートモデルのマスキング特異パラメータによる伝達性向上による逆例の生成
• Authors: Dingcheng Yang, Wenjian Yu, Zihao Xiao, Jiaqi Luo
• Abstract要約: 非重要マスキングパラメータ(MUP)を用いた転送攻撃における敵例の転送可能性の向上を提案する。 MUPのキーとなるアイデアは、事前訓練されたサロゲートモデルを洗練して、転送ベースの攻撃を強化することである。
• 参考スコア（独自算出の注目度）: 6.737574282249396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) have been shown to be vulnerable to adversarial examples. Moreover, the transferability of the adversarial examples has received broad attention in recent years, which means that adversarial examples crafted by a surrogate model can also attack unknown models. This phenomenon gave birth to the transfer-based adversarial attacks, which aim to improve the transferability of the generated adversarial examples. In this paper, we propose to improve the transferability of adversarial examples in the transfer-based attack via masking unimportant parameters (MUP). The key idea in MUP is to refine the pretrained surrogate models to boost the transfer-based attack. Based on this idea, a Taylor expansion-based metric is used to evaluate the parameter importance score and the unimportant parameters are masked during the generation of adversarial examples. This process is simple, yet can be naturally combined with various existing gradient-based optimizers for generating adversarial examples, thus further improving the transferability of the generated adversarial examples. Extensive experiments are conducted to validate the effectiveness of the proposed MUP-based methods.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵の例に弱いことが示されている。 さらに, 近年, 敵対例の移動可能性にも注目が集まっており, 代理モデルで作成した敵例も未知のモデルを攻撃することができる。 この現象は、生成した攻撃例の伝達性を改善することを目的として、トランスファーベースの攻撃を発生させた。 本稿では、マスキング不重要パラメータ(MUP)を用いた転送攻撃における敵例の転送可能性を改善することを提案する。 MUPのキーとなるアイデアは、事前訓練されたサロゲートモデルを洗練して、転送ベースの攻撃を強化することである。 この考えに基づいて、テイラー展開に基づく計量はパラメータの重要度を評価するのに使われ、非重要パラメータは逆例の生成中にマスクされる。 この過程は単純であるが、逆数例を生成するための様々な勾配に基づく最適化器と自然に組み合わせることができるため、生成した逆数例の転送性はさらに向上する。 提案手法の有効性を検証するために広範な実験を行った。

関連論文リスト

• Enhancing the Transferability of Adversarial Attacks on Face Recognition with Diverse Parameters Augmentation [29.5096732465412]
  顔認識(FR)モデルは、良質な顔画像を微妙に操作する敵の例に対して脆弱である。 既存の敵攻撃法は、サロゲートモデルを増強する潜在的な利点を見落としていることが多い。 本稿では,DPA攻撃法(Diverse Parameters Augmentation)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-11-23T13:22:37Z)
• Boosting the Targeted Transferability of Adversarial Examples via Salient Region & Weighted Feature Drop [2.176586063731861]
  敵攻撃に対する一般的なアプローチは、敵の例の転送可能性に依存する。 SWFD(Salient Region & Weighted Feature Drop)をベースとした新しいフレームワークは,敵対的事例のターゲット転送可能性を高める。
  論文  参考訳（メタデータ） (2024-11-11T08:23:37Z)
• Imperceptible Face Forgery Attack via Adversarial Semantic Mask [59.23247545399068]
  本稿では, 対向性, 可視性に優れた対向性例を生成できるASMA(Adversarial Semantic Mask Attack framework)を提案する。 具体的には, 局所的なセマンティック領域の摂動を抑制し, 良好なステルス性を実現する, 対向型セマンティックマスク生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-06-16T10:38:11Z)
• Efficient Generation of Targeted and Transferable Adversarial Examples for Vision-Language Models Via Diffusion Models [17.958154849014576]
  大規模視覚言語モデル(VLM)のロバスト性を評価するために、敵対的攻撃を用いることができる。 従来のトランスファーベースの敵攻撃は、高いイテレーション数と複雑なメソッド構造により、高いコストを発生させる。 本稿では, 拡散モデルを用いて, 自然, 制約のない, 対象とする対向的な例を生成するAdvDiffVLMを提案する。
  論文  参考訳（メタデータ） (2024-04-16T07:19:52Z)
• SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
  ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。 本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-12-08T09:08:50Z)
• Improving Adversarial Transferability by Stable Diffusion [36.97548018603747]
  敵対的な例は 良心サンプルに 知覚不能な摂動を導入 予測を欺く ディープニューラルネットワーク(Deep Neural Network, DNN)は、良性サンプルに知覚不能な摂動を導入し、予測を誤認する敵の例に影響を受けやすい。 本稿では,SDAM(Stable Diffusion Attack Method)と呼ばれる新しい攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-11-18T09:10:07Z)
• Fuzziness-tuned: Improving the Transferability of Adversarial Examples [18.880398046794138]
  敵対的な例は、ディープニューラルネットワークにおけるトレーニングモデルの堅牢性を高めるために広く使用されている。 代理モデルに対するトランスファーベース攻撃の攻撃成功率は、低攻撃強度下の犠牲者モデルよりもはるかに高い。 ファジィ領域から効果的に外れるようにファジィ調整法が提案されている。
  論文  参考訳（メタデータ） (2023-03-17T16:00:18Z)
• Making Substitute Models More Bayesian Can Enhance Transferability of Adversarial Examples [89.85593878754571]
  ディープニューラルネットワークにおける敵の例の転送可能性は多くのブラックボックス攻撃の欠如である。 我々は、望ましい転送可能性を達成するためにベイズモデルを攻撃することを提唱する。 我々の手法は近年の最先端を大きなマージンで上回る。
  論文  参考訳（メタデータ） (2023-02-10T07:08:13Z)
• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• Training Meta-Surrogate Model for Transferable Adversarial Attack [98.13178217557193]
  クエリーを許可しない場合、ブラックボックスモデルに対する逆攻撃を考える。 この設定では、多くの手法が代理モデルを直接攻撃し、得られた敵の例をターゲットモデルを騙すために転送する。 メタサロゲートモデル(Meta-Surrogate Model:MSM)は,このモデルに対する攻撃が,他のモデルに容易に転送できることを示す。
  論文  参考訳（メタデータ） (2021-09-05T03:27:46Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。