論文の概要: Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2110.08256v1
• Date: Wed, 13 Oct 2021 13:54:24 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-24 04:35:50.803486
• Title: Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness
• Title（参考訳）: Model-Agnostic Meta-Attack: 対向ロバストネスの信頼性評価に向けて
• Authors: Xiao Yang, Yinpeng Dong, Wenzhao Xiang, Tianyu Pang, Hang Su, Jun Zhu
• Abstract要約: モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 53.094682754683255
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The vulnerability of deep neural networks to adversarial examples has motivated an increasing number of defense strategies for promoting model robustness. However, the progress is usually hampered by insufficient robustness evaluations. As the de facto standard to evaluate adversarial robustness, adversarial attacks typically solve an optimization problem of crafting adversarial examples with an iterative process. In this work, we propose a Model-Agnostic Meta-Attack (MAMA) approach to discover stronger attack algorithms automatically. Our method learns the optimizer in adversarial attacks parameterized by a recurrent neural network, which is trained over a class of data samples and defenses to produce effective update directions during adversarial example generation. Furthermore, we develop a model-agnostic training algorithm to improve the generalization ability of the learned optimizer when attacking unseen defenses. Our approach can be flexibly incorporated with various attacks and consistently improves the performance with little extra computational cost. Extensive experiments demonstrate the effectiveness of the learned attacks by MAMA compared to the state-of-the-art attacks on different defenses, leading to a more reliable evaluation of adversarial robustness.
• Abstract（参考訳）: ディープニューラルネットワークの敵の例への脆弱性は、モデルのロバスト性を促進するための防衛戦略の数を増やした。 しかし、この進歩は通常、不十分な堅牢性評価によって妨げられる。 敵のロバスト性を評価するためのデファクトスタンダードとして、敵の攻撃は通常、反復的なプロセスで敵の例を作る最適化問題を解決する。 本研究では,モデル非依存メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する手法を提案する。 本手法は, 対向的なサンプル生成における効果的な更新方向を生成するために, 一連のデータサンプルとディフェンスを用いてトレーニングされた, 繰り返しニューラルネットワークによってパラメータ化される対向攻撃の最適化について学習する。 さらに,攻撃時の学習オプティマイザの一般化能力を向上させるためのモデル非依存なトレーニングアルゴリズムを開発した。 我々のアプローチは様々な攻撃に柔軟に組み込むことができ、計算コストをほとんど必要とせずに性能を一貫して改善できる。 広範囲な実験により、MAMAによる学習された攻撃の有効性が、異なる防御に対する最先端の攻撃と比較して証明され、敵の堅牢性をより信頼性の高い評価に導かれる。

関連論文リスト

• Robust Image Classification: Defensive Strategies against FGSM and PGD Adversarial Attacks [0.0]
  敵対的攻撃は、画像分類におけるディープラーニングモデルの堅牢性に重大な脅威をもたらす。 本稿では,ニューラルネットワークのレジリエンスを高めるために,これらの攻撃に対する防御機構を探索し,洗練する。
  論文  参考訳（メタデータ） (2024-08-20T02:00:02Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Enhancing Adversarial Attacks: The Similar Target Method [6.293148047652131]
  敵対的な例は、ディープニューラルネットワークのアプリケーションに脅威をもたらす。 ディープニューラルネットワークは敵の例に対して脆弱であり、モデルのアプリケーションに脅威を与え、セキュリティ上の懸念を提起する。 我々はSimisal Target(ST)という類似の攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-08-21T14:16:36Z)
• MIXPGD: Hybrid Adversarial Training for Speech Recognition Systems [18.01556863687433]
  ASRシステムのモデルの堅牢性を向上させるために,混合PGD逆行訓練法を提案する。 標準的な対人訓練では、教師なしまたは教師なしの手法を利用して、敵のサンプルを生成する。 我々は,モデルロバスト性向上に役立つ新しい対向サンプルを生成するために,教師付きアプローチと教師なしアプローチの両機能を融合する。
  論文  参考訳（メタデータ） (2023-03-10T07:52:28Z)
• Guidance Through Surrogate: Towards a Generic Diagnostic Attack [101.36906370355435]
  我々は、攻撃最適化中に局所最小限を避けるための誘導機構を開発し、G-PGAと呼ばれる新たな攻撃に繋がる。 修正された攻撃では、ランダムに再起動したり、多数の攻撃を繰り返したり、最適なステップサイズを検索したりする必要がありません。 効果的な攻撃以上に、G-PGAは敵防御における勾配マスキングによる解離性堅牢性を明らかにするための診断ツールとして用いられる。
  論文  参考訳（メタデータ） (2022-12-30T18:45:23Z)
• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• A Multi-objective Memetic Algorithm for Auto Adversarial Attack Optimization Design [1.9100854225243937]
  良く設計された敵防衛戦略は、敵の例に対するディープラーニングモデルの堅牢性を改善することができる。 防御モデルを考えると、計算負担が少なく、ロバストな精度の低い効率的な敵攻撃を更に活用する必要がある。 本稿では,防衛モデルに対する準最適攻撃の自動探索を実現する自動対向攻撃最適化設計のための多目的メメティックアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-08-15T03:03:05Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Adversarial example generation with AdaBelief Optimizer and Crop Invariance [8.404340557720436]
  敵攻撃は、安全クリティカルなアプリケーションにおいて堅牢なモデルを評価し、選択するための重要な方法である。 本稿では,AdaBelief Iterative Fast Gradient Method (ABI-FGM)とCrop-Invariant attack Method (CIM)を提案する。 我々の手法は、最先端の勾配に基づく攻撃法よりも成功率が高い。
  論文  参考訳（メタデータ） (2021-02-07T06:00:36Z)
• Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses [59.58128343334556]
  我々は、より適切な勾配方向を見つけ、攻撃効果を高め、より効率的な対人訓練をもたらす標準損失に緩和項を導入する。 本稿では, クリーン画像の関数マッピングを用いて, 敵生成を誘導するGAMA ( Guided Adversarial Margin Attack) を提案する。 また,一段防衛における最先端性能を実現するためのGAT ( Guided Adversarial Training) を提案する。
  論文  参考訳（メタデータ） (2020-11-30T16:39:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。