論文の概要: Dynamically Sampled Nonlocal Gradients for Stronger Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2011.02707v4
• Date: Mon, 27 Sep 2021 09:09:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-29 12:24:53.875427
• Title: Dynamically Sampled Nonlocal Gradients for Stronger Adversarial Attacks
• Title（参考訳）: 強敵攻撃に対する動的サンプリング非局所勾配
• Authors: Leo Schwinn, An Nguyen, Ren\'e Raab, Dario Zanca, Bjoern Eskofier, Daniel Tenbrinck, Martin Burger
• Abstract要約: 深層ニューラルネットワークの脆弱性は、小さな、さらには知覚不能な摂動にも影響し、ディープラーニング研究の中心的なトピックとなっている。 脆弱性防御機構として動的に動的に非局所グラディエント蛍光(DSNGD)を提案する。 DSNGDベースの攻撃は平均35%高速であり、勾配降下型攻撃よりも0.9%から27.1%高い成功率を示した。
• 参考スコア（独自算出の注目度）: 3.055601224691843
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The vulnerability of deep neural networks to small and even imperceptible perturbations has become a central topic in deep learning research. Although several sophisticated defense mechanisms have been introduced, most were later shown to be ineffective. However, a reliable evaluation of model robustness is mandatory for deployment in safety-critical scenarios. To overcome this problem we propose a simple yet effective modification to the gradient calculation of state-of-the-art first-order adversarial attacks. Normally, the gradient update of an attack is directly calculated for the given data point. This approach is sensitive to noise and small local optima of the loss function. Inspired by gradient sampling techniques from non-convex optimization, we propose Dynamically Sampled Nonlocal Gradient Descent (DSNGD). DSNGD calculates the gradient direction of the adversarial attack as the weighted average over past gradients of the optimization history. Moreover, distribution hyperparameters that define the sampling operation are automatically learned during the optimization scheme. We empirically show that by incorporating this nonlocal gradient information, we are able to give a more accurate estimation of the global descent direction on noisy and non-convex loss surfaces. In addition, we show that DSNGD-based attacks are on average 35% faster while achieving 0.9% to 27.1% higher success rates compared to their gradient descent-based counterparts.
• Abstract（参考訳）: 深層ニューラルネットワークの、小さくて知覚できない摂動への脆弱性は、ディープラーニング研究の中心的なトピックとなっている。 いくつかの高度な防御機構が導入されたが、その多くは後に効果がないことが判明した。 しかし、モデルロバスト性の評価は、安全クリティカルなシナリオへの展開には必須である。 この問題を克服するため,我々は,最先端の1次攻撃の勾配計算の単純かつ効果的な修正を提案する。 通常、攻撃の勾配更新は与えられたデータポイントに対して直接計算される。 このアプローチはノイズや損失関数の局所的最適化に敏感である。 非凸最適化による勾配サンプリング手法に着想を得て,動的サンプリング非局所勾配 Descent (DSNGD) を提案する。 dsngdは、最適化履歴の過去の勾配よりも重み付け平均として、敵の攻撃の勾配方向を計算する。 さらに、サンプリング動作を定義する分布ハイパーパラメータは、最適化スキーム中に自動的に学習される。 我々は、この非局所勾配情報を組み込むことで、雑音や非凸損失面上のグローバル降下方向をより正確に推定できることを実証的に示す。 さらに,dsngdによる攻撃は平均35%高速であり,勾配降下型攻撃に比べて0.9%から27.1%高い成功率を示した。

関連論文リスト

• Improving Adversarial Transferability with Neighbourhood Gradient Information [20.55829486744819]
  ディープニューラルネットワーク(DNN)は、敵の例に影響を受けやすいため、パフォーマンスが著しく低下する。 本研究は、この性能ギャップを狭めるために、敵の例の転送可能性を高めることに焦点を当てる。 事例追跡と多重マスク戦略を取り入れたNGI-Attackを提案する。
  論文  参考訳（メタデータ） (2024-08-11T10:46:49Z)
• Rethinking PGD Attack: Is Sign Function Necessary? [131.6894310945647]
  本稿では,このような手話に基づく更新アルゴリズムが段階的攻撃性能にどのように影響するかを理論的に分析する。 本稿では,手話の使用を排除したRGDアルゴリズムを提案する。 提案したRGDアルゴリズムの有効性は実験で広く実証されている。
  論文  参考訳（メタデータ） (2023-12-03T02:26:58Z)
• Sampling-based Fast Gradient Rescaling Method for Highly Transferable Adversarial Attacks [18.05924632169541]
  サンプリングに基づく高速勾配再スケーリング法(S-FGRM)を提案する。 具体的には、余分な計算コストを伴わずに手話関数を置換するためにデータ再スケーリングを用いる。 本手法は, 勾配に基づく攻撃の伝達可能性を大幅に向上させ, 最先端のベースラインより優れる可能性がある。
  論文  参考訳（メタデータ） (2023-07-06T07:52:42Z)
• Sampling-based Fast Gradient Rescaling Method for Highly Transferable Adversarial Attacks [19.917677500613788]
  勾配ベースのアプローチは一般的に、プロセスの最後に摂動を生成するために$sign$関数を使用する。 そこで本研究では,S-FGRM(Saming-based Fast Gradient Rescaling Method)を提案する。
  論文  参考訳（メタデータ） (2022-04-06T15:12:20Z)
• Adaptive Perturbation for Adversarial Attack [50.77612889697216]
  そこで本研究では,新たな逆例に対する勾配に基づく攻撃手法を提案する。 逆方向の摂動を発生させるために,スケーリング係数を用いた正確な勾配方向を用いる。 本手法は, 高い伝達性を示し, 最先端の手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2021-11-27T07:57:41Z)
• Meta Adversarial Perturbations [66.43754467275967]
  メタ逆境摂動(MAP)の存在を示す。 MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。 これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
  論文  参考訳（メタデータ） (2021-11-19T16:01:45Z)
• Sparse and Imperceptible Adversarial Attack via a Homotopy Algorithm [93.80082636284922]
  少数の敵対的攻撃は、数ピクセルを摂動するだけでディープ・ネットワーク(DNN)を騙すことができる。 近年の取り組みは、他の等級のl_infty摂動と組み合わせている。 本稿では,空間的・神経的摂動に対処するホモトピーアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-10T20:11:36Z)
• Enhancing the Transferability of Adversarial Attacks through Variance Tuning [6.5328074334512]
  反復勾配に基づく攻撃手法のクラスを強化するための分散チューニングと呼ばれる新しい方法を提案する。 標準のImageNetデータセットを用いた実験結果から,勾配に基づく敵攻撃の転送性を大幅に向上できることが示された。
  論文  参考訳（メタデータ） (2021-03-29T12:41:55Z)
• Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
  我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。 私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。 整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
  論文  参考訳（メタデータ） (2021-02-21T03:13:27Z)
• Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
  我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。 本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
  論文  参考訳（メタデータ） (2020-06-10T08:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。