論文の概要: AROID: Improving Adversarial Robustness Through Online Instance-Wise Data Augmentation

• arxiv url: http://arxiv.org/abs/2306.07197v2
• Date: Wed, 14 Aug 2024 07:49:55 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-15 18:46:43.210848
• Title: AROID: Improving Adversarial Robustness Through Online Instance-Wise Data Augmentation
• Title（参考訳）: AROID: オンラインインスタンス単位のデータ拡張による対向ロバスト性の改善
• Authors: Lin Li, Jianing Qiu, Michael Spratling,
• Abstract要約: 対戦訓練(英語: Adversarial Training、AT)は、敵の例に対する効果的な防御である。 データ拡張(DA)は、AT向けに適切に設計され最適化された場合、ロバストなオーバーフィッティングの軽減に有効であることが示されている。 本研究は、ATの堅牢な一般化を改善するために、オンライン、例えばDAポリシーを自動的に学習する新しい方法を提案する。
• 参考スコア（独自算出の注目度）: 6.625868719336385
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks are vulnerable to adversarial examples. Adversarial training (AT) is an effective defense against adversarial examples. However, AT is prone to overfitting which degrades robustness substantially. Recently, data augmentation (DA) was shown to be effective in mitigating robust overfitting if appropriately designed and optimized for AT. This work proposes a new method to automatically learn online, instance-wise, DA policies to improve robust generalization for AT. This is the first automated DA method specific for robustness. A novel policy learning objective, consisting of Vulnerability, Affinity and Diversity, is proposed and shown to be sufficiently effective and efficient to be practical for automatic DA generation during AT. Importantly, our method dramatically reduces the cost of policy search from the 5000 hours of AutoAugment and the 412 hours of IDBH to 9 hours, making automated DA more practical to use for adversarial robustness. This allows our method to efficiently explore a large search space for a more effective DA policy and evolve the policy as training progresses. Empirically, our method is shown to outperform all competitive DA methods across various model architectures and datasets. Our DA policy reinforced vanilla AT to surpass several state-of-the-art AT methods regarding both accuracy and robustness. It can also be combined with those advanced AT methods to further boost robustness. Code and pre-trained models are available at https://github.com/TreeLLi/AROID.
• Abstract（参考訳）: ディープニューラルネットワークは敵の例に弱い。 対戦訓練(英語: Adversarial Training、AT)は、敵の例に対する効果的な防御である。 しかし、ATは頑丈さを著しく低下させる過度な適合をしがちである。 近年、データ強化(DA)はAT向けに適切に設計され最適化された場合、堅牢なオーバーフィッティングの軽減に有効であることが示されている。 本研究は、ATの堅牢な一般化を改善するために、オンライン、例えばDAポリシーを自動的に学習する新しい方法を提案する。 これは、堅牢性に特化した最初の自動DAメソッドである。 脆弱性,親和性,多様性からなる新しい政策学習目標を提案し,ATにおける自動DA生成の実現に十分な効率と効率性を示した。 重要なこととして,本手法は,5,000時間のAutoAugmentと412時間のIDBHから9時間までのポリシー検索コストを劇的に削減する。 これにより、より効果的なDAポリシーを求めて大規模な検索空間を効率的に探索し、訓練が進むにつれてポリシーを進化させることができる。 実験により,本手法は様々なモデルアーキテクチャやデータセットにおいて,競争力のあるDA手法よりも優れていることを示す。 当社のDAポリシーは、バニラATを精度と堅牢性の両方に関して、最先端のAT手法を超越するように強化しました。 また、より堅牢性を高めるために、これらの先進的なAT手法と組み合わせることもできる。 コードと事前トレーニングされたモデルはhttps://github.com/TreeLLi/AROID.comで入手できる。

関連論文リスト

• Adaptive Batch Normalization Networks for Adversarial Robustness [33.14617293166724]
  敵防衛訓練(Adversarial Training、AT)は、現代の敵防衛の標準的基盤である。 テスト時間領域適応の最近の進歩に触発された適応バッチ正規化ネットワーク(ABNN)を提案する。 ABNNは、デジタルおよび物理的に実現可能な攻撃に対する敵の堅牢性を一貫して改善する。
  論文  参考訳（メタデータ） (2024-05-20T00:58:53Z)
• Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
  敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。 汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T13:13:41Z)
• A2: Efficient Automated Attacker for Boosting Adversarial Training [15.37987350655307]
  本稿では,A2と呼ばれる自動攻撃を効果的に行うことで,適応訓練(AT)の堅牢性を高めることを提案する。 A2は低コストで強い摂動を発生させ、異なる攻撃に対する様々なAT手法の堅牢性を確実に改善する。
  論文  参考訳（メタデータ） (2022-10-07T13:28:00Z)
• Exploring Adversarially Robust Training for Unsupervised Domain Adaptation [71.94264837503135]
  Unsupervised Domain Adaptation (UDA)メソッドは、ラベル付きソースドメインからラベル付きターゲットドメインに知識を転送することを目的としている。 本稿では、UDAのドメイン不変性を学習しながら、ATを介してラベルなしデータのロバスト性を高める方法について検討する。 本稿では,ARTUDA と呼ばれる UDA の適応的ロバストトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-02-18T17:05:19Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Consistency Regularization for Adversarial Robustness [88.65786118562005]
  adversarial trainingは、ディープニューラルネットワークの敵対的堅牢性を得るために最も成功した方法の1つである。 しかし、ATから得られる堅牢性の大幅な一般化ギャップは問題視されている。 本稿では,この問題に対処するためにデータ拡張手法について検討する。
  論文  参考訳（メタデータ） (2021-03-08T09:21:41Z)
• Self-Progressing Robust Training [146.8337017922058]
  敵対的なトレーニングのような現在の堅牢なトレーニング方法は、敵対的な例を生成するために「攻撃」を明示的に使用します。 我々はSPROUTと呼ばれる自己プログレッシブ・ロバスト・トレーニングのための新しいフレームワークを提案する。 その結果,スケーラブルで効果的で攻撃に依存しないロバストなトレーニング手法に新たな光を当てた。
  論文  参考訳（メタデータ） (2020-12-22T00:45:24Z)
• DADA: Differentiable Automatic Data Augmentation [58.560309490774976]
  コストを大幅に削減する微分可能自動データ拡張(DADA)を提案する。 CIFAR-10, CIFAR-100, SVHN, ImageNetのデータセットについて広範な実験を行った。 その結果,DADAは最先端技術よりも1桁以上高速であり,精度は極めて高いことがわかった。
  論文  参考訳（メタデータ） (2020-03-08T13:23:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。