論文の概要: Efficient Adversarial Training with Transferable Adversarial Examples

• arxiv url: http://arxiv.org/abs/1912.11969v2
• Date: Thu, 2 Jul 2020 16:48:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-10 00:16:15.674217
• Title: Efficient Adversarial Training with Transferable Adversarial Examples
• Title（参考訳）: 転置可能な転向例を用いた効率的な転向訓練
• Authors: Haizhong Zheng, Ziqi Zhang, Juncheng Gu, Honglak Lee, Atul Prakash
• Abstract要約: 同じトレーニングプロセスにおいて、近隣のエポックからのモデル間で高い転送可能性があることが示される。 本稿では,ATTA(Adversarial Training with Transferable Adversarial Examples)を提案する。
• 参考スコア（独自算出の注目度）: 58.62766224452761
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial training is an effective defense method to protect classification models against adversarial attacks. However, one limitation of this approach is that it can require orders of magnitude additional training time due to high cost of generating strong adversarial examples during training. In this paper, we first show that there is high transferability between models from neighboring epochs in the same training process, i.e., adversarial examples from one epoch continue to be adversarial in subsequent epochs. Leveraging this property, we propose a novel method, Adversarial Training with Transferable Adversarial Examples (ATTA), that can enhance the robustness of trained models and greatly improve the training efficiency by accumulating adversarial perturbations through epochs. Compared to state-of-the-art adversarial training methods, ATTA enhances adversarial accuracy by up to 7.2% on CIFAR10 and requires 12~14x less training time on MNIST and CIFAR10 datasets with comparable model robustness.
• Abstract（参考訳）: 対人訓練は、対人攻撃に対する分類モデルを保護する効果的な防御方法である。 しかし、このアプローチの1つの制限は、トレーニング中に強い敵の例を生成するコストが高いため、桁違いのトレーニング時間を必要とすることである。 本稿では,同一訓練過程において,隣接するエポックからのモデル間の移動性が高いこと,すなわち1つのエポックからの逆例が、その後のエポックにおいて逆であることを示す。 この特性を生かして、訓練されたモデルの堅牢性を向上し、エポックを通じて敵の摂動を蓄積することにより、トレーニング効率を大幅に向上する新しい手法であるATTA(Adversarial Training with Transferable Adversarial Examples)を提案する。 最先端の対人訓練法と比較すると、ATTAはCIFAR10で最大7.2%の精度を向上し、MNISTおよびCIFAR10データセットでのトレーニング時間を12～14倍短縮する。

関連論文リスト

• CAT:Collaborative Adversarial Training [80.55910008355505]
  ニューラルネットワークの堅牢性を改善するために,協調的対人訓練フレームワークを提案する。 具体的には、異なる対戦型トレーニング手法を使用して、堅牢なモデルをトレーニングし、トレーニングプロセス中にモデルが自身の知識と対話できるようにします。 Cat は Auto-Attack ベンチマークの下で CIFAR-10 上の追加データを用いることなく、最先端の敵の堅牢性を達成している。
  論文  参考訳（メタデータ） (2023-03-27T05:37:43Z)
• Enhancing Adversarial Training with Feature Separability [52.39305978984573]
  本稿では,特徴分離性を備えた対人訓練(ATFS)により,クラス内特徴の類似性を向上し,クラス間特徴分散を増大させることができる,新たな対人訓練グラフ(ATG)を提案する。 包括的な実験を通じて、提案したATFSフレームワークがクリーンかつロバストなパフォーマンスを著しく改善することを示した。
  論文  参考訳（メタデータ） (2022-05-02T04:04:23Z)
• Adaptive perturbation adversarial training: based on reinforcement learning [9.563820241076103]
  対人訓練の欠点の1つは、通常のサンプルの認識精度を低下させることである。 この問題を緩和するため,適応的対人訓練が提案されている。 決定境界に近いが、敵の訓練のために決定境界を越えていない辺境の敵のサンプルを使用する。
  論文  参考訳（メタデータ） (2021-08-30T13:49:55Z)
• Multi-stage Optimization based Adversarial Training [16.295921205749934]
  本稿では,多段階最適化に基づく適応学習(MOAT)手法を提案する。 同様の訓練オーバーヘッドの下で、提案したMOATは、単段階または多段階の対向訓練方法よりも堅牢性が高い。
  論文  参考訳（メタデータ） (2021-06-26T07:59:52Z)
• Gradient-Guided Dynamic Efficient Adversarial Training [6.980357450216633]
  敵意の強い攻撃に耐えられる強固なディープニューラルネットワークを訓練する上で、敵意のトレーニングは効果的だが時間がかかります。 本研究では, 動的適応学習(DEAT, Dynamic Efficient Adversarial Training)を提案する。
  論文  参考訳（メタデータ） (2021-03-04T14:57:53Z)
• Towards Speeding up Adversarial Training in Latent Spaces [8.054201249492582]
  そこで本研究では,現実の敵の例を生成する必要のない,新たな敵の訓練手法を提案する。 我々は、多様体の理論により内在的逆例(EAEs)の存在について深い洞察を得る。 EAE対人訓練はトレーニング時間を短縮するだけでなく、モデルの堅牢性を高める。
  論文  参考訳（メタデータ） (2021-02-01T06:30:32Z)
• Self-Progressing Robust Training [146.8337017922058]
  敵対的なトレーニングのような現在の堅牢なトレーニング方法は、敵対的な例を生成するために「攻撃」を明示的に使用します。 我々はSPROUTと呼ばれる自己プログレッシブ・ロバスト・トレーニングのための新しいフレームワークを提案する。 その結果,スケーラブルで効果的で攻撃に依存しないロバストなトレーニング手法に新たな光を当てた。
  論文  参考訳（メタデータ） (2020-12-22T00:45:24Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• Towards Understanding Fast Adversarial Training [91.8060431517248]
  高速対人訓練の振る舞いを理解するために実験を行う。 その成功の鍵は、過度な適合から弱い攻撃への回復能力である。
  論文  参考訳（メタデータ） (2020-06-04T18:19:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。