論文の概要: Revisiting the Relationship between Adversarial and Clean Training: Why Clean Training Can Make Adversarial Training Better

• arxiv url: http://arxiv.org/abs/2504.00038v1
• Date: Sun, 30 Mar 2025 15:58:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 15:43:08.427442
• Title: Revisiting the Relationship between Adversarial and Clean Training: Why Clean Training Can Make Adversarial Training Better
• Title（参考訳）: 逆行訓練とクリーントレーニングの関係を再考する : クリーントレーニングが逆行訓練をより良くする理由
• Authors: MingWei Zhou, Xiaobing Pei,
• Abstract要約: 逆行訓練(AT)は、対向的堅牢性を高める効果的な手法であるが、一般化能力の低下によるコストがかかる。 近年の研究では、清潔な訓練を敵の訓練に役立てようと試みているが、結論には矛盾がある。 そこで我々は,AT法の性能向上のためにクリーントレーニングを活用する新しいアイデアを提案する。
• 参考スコア（独自算出の注目度）: 1.1970409518725493
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial training (AT) is an effective technique for enhancing adversarial robustness, but it usually comes at the cost of a decline in generalization ability. Recent studies have attempted to use clean training to assist adversarial training, yet there are contradictions among the conclusions. We comprehensively summarize the representative strategies and, with a focus on the multi - view hypothesis, provide a unified explanation for the contradictory phenomena among different studies. In addition, we conduct an in - depth analysis of the knowledge combinations transferred from clean - trained models to adversarially - trained models in previous studies, and find that they can be divided into two categories: reducing the learning difficulty and providing correct guidance. Based on this finding, we propose a new idea of leveraging clean training to further improve the performance of advanced AT methods.We reveal that the problem of generalization degradation faced by AT partly stems from the difficulty of adversarial training in learning certain sample features, and this problem can be alleviated by making full use of clean training.
• Abstract（参考訳）: 逆行訓練(AT)は、対向的堅牢性を高める効果的な手法であるが、通常は一般化能力の低下によるコストがかかる。 近年の研究では、清潔な訓練を敵の訓練に役立てようと試みているが、結論には矛盾がある。 我々は代表的戦略を包括的に要約し、多視点仮説に焦点をあてて、異なる研究の間で矛盾する現象を統一的に説明する。 さらに,従来の研究において,クリーントレーニングモデルから逆トレーニングモデルに移行した知識の組み合わせの深さ分析を行い,学習困難の低減と正しいガイダンスの提供という2つのカテゴリに分けることができることを確認した。 そこで本研究では,AT法の性能向上にクリーントレーニングを活用する新たなアイデアを提案する。また,AT法が直面する一般化劣化の問題の一部は,特定のサンプル特徴を学習する際の対人訓練の難しさから生じており,クリーントレーニングをフル活用することで,この問題を緩和することができる。

関連論文リスト

• Revisiting and Exploring Efficient Fast Adversarial Training via LAW: Lipschitz Regularization and Auto Weight Averaging [73.78965374696608]
  本研究では,10以上の高速対人訓練法について,対人ロバスト性およびトレーニングコストの観点から検討した。 破滅的オーバーフィッティング防止のための高速対人訓練手法の有効性と有効性を再考する。 リプシッツ正規化とオートウェイト平均化を備えたFGSMに基づく高速対向訓練手法を提案する。
  論文  参考訳（メタデータ） (2023-08-22T13:50:49Z)
• Collaborative Adversarial Training [82.25340762659991]
  本研究は, 対人的, 良性的な両例とほぼ区別できない, 協調的な事例が, 対人的訓練の強化に有効であることを示す。 そこで,コラボレーティブ・ディベザリ・トレーニング(CoAT)と呼ばれる新しい手法が提案され,新たな最先端技術が実現された。
  論文  参考訳（メタデータ） (2022-05-23T09:41:41Z)
• Enhancing Adversarial Training with Feature Separability [52.39305978984573]
  本稿では,特徴分離性を備えた対人訓練(ATFS)により,クラス内特徴の類似性を向上し,クラス間特徴分散を増大させることができる,新たな対人訓練グラフ(ATG)を提案する。 包括的な実験を通じて、提案したATFSフレームワークがクリーンかつロバストなパフォーマンスを著しく改善することを示した。
  論文  参考訳（メタデータ） (2022-05-02T04:04:23Z)
• On the Impact of Hard Adversarial Instances on Overfitting in Adversarial Training [70.82725772926949]
  敵の訓練は、敵の攻撃に対してモデルを強固にするための一般的な方法である。 本研究では,この現象をトレーニングインスタンスの観点から検討する。 逆行訓練における一般化性能の低下は、ハード・逆行例に適合した結果であることを示す。
  論文  参考訳（メタデータ） (2021-12-14T12:19:24Z)
• Adaptive perturbation adversarial training: based on reinforcement learning [9.563820241076103]
  対人訓練の欠点の1つは、通常のサンプルの認識精度を低下させることである。 この問題を緩和するため,適応的対人訓練が提案されている。 決定境界に近いが、敵の訓練のために決定境界を越えていない辺境の敵のサンプルを使用する。
  論文  参考訳（メタデータ） (2021-08-30T13:49:55Z)
• Recent Advances in Adversarial Training for Adversarial Robustness [22.436303311891276]
  ディープラーニングモデルを騙すための逆例は、ここ数年研究され、今でもホットなトピックである。 敵の訓練も、敵の例を守る効果から大きな注目を集めている。 敵の訓練に関する多くの新しい理論と理解が提案されている。
  論文  参考訳（メタデータ） (2021-02-02T07:10:22Z)
• Towards Understanding Fast Adversarial Training [91.8060431517248]
  高速対人訓練の振る舞いを理解するために実験を行う。 その成功の鍵は、過度な適合から弱い攻撃への回復能力である。
  論文  参考訳（メタデータ） (2020-06-04T18:19:43Z)
• Improving the affordability of robustness training for DNNs [11.971637253035107]
  逆行訓練の初期段階は冗長であり、計算効率を大幅に向上させる自然な訓練に置き換えることができることを示す。 提案手法は, 各種敵攻撃の強みに対するモデルテスト精度と一般化により, 最大2.5倍の訓練時間を短縮できることを示す。
  論文  参考訳（メタデータ） (2020-02-11T07:29:45Z)
• Facial Feedback for Reinforcement Learning: A Case Study and Offline Analysis Using the TAMER Framework [51.237191651923666]
  訓練者の表情からエージェント学習の可能性について,評価フィードバックとして解釈することで検討した。 設計したCNN-RNNモデルを用いて,学習者に対して表情とコンペティションの使用を指示することで,肯定的および否定的なフィードバックを推定する精度を向上させることができることを示す。 シミュレーション実験の結果,表情に基づく予測フィードバックのみから学習できることが示唆された。
  論文  参考訳（メタデータ） (2020-01-23T17:50:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。