Fugu-MT 論文翻訳(概要): Adversarial Concurrent Training: Optimizing Robustness and Accuracy Trade-off of Deep Neural Networks

論文の概要: Adversarial Concurrent Training: Optimizing Robustness and Accuracy Trade-off of Deep Neural Networks

arxiv url: http://arxiv.org/abs/2008.07015v2
Date: Tue, 18 Aug 2020 18:31:40 GMT
ステータス: 処理完了
システム内更新日: 2022-10-28 09:06:38.612062
Title: Adversarial Concurrent Training: Optimizing Robustness and Accuracy Trade-off of Deep Neural Networks
Title（参考訳）: 逆並行トレーニング:ディープニューラルネットワークのロバスト性と精度トレードオフの最適化
Authors: Elahe Arani, Fahad Sarfraz and Bahram Zonooz
Abstract要約: ミニマックスゲームにおいて,自然モデルと連動して頑健なモデルを訓練するための適応的並行訓練(ACT)を提案する。 ACTは標準精度68.20%、目標外攻撃で44.29%のロバスト性を達成している。
参考スコア（独自算出の注目度）: 13.041607703862724
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Adversarial training has been proven to be an effective technique for improving the adversarial robustness of models. However, there seems to be an inherent trade-off between optimizing the model for accuracy and robustness. To this end, we propose Adversarial Concurrent Training (ACT), which employs adversarial training in a collaborative learning framework whereby we train a robust model in conjunction with a natural model in a minimax game. ACT encourages the two models to align their feature space by using the task-specific decision boundaries and explore the input space more broadly. Furthermore, the natural model acts as a regularizer, enforcing priors on features that the robust model should learn. Our analyses on the behavior of the models show that ACT leads to a robust model with lower model complexity, higher information compression in the learned representations, and high posterior entropy solutions indicative of convergence to a flatter minima. We demonstrate the effectiveness of the proposed approach across different datasets and network architectures. On ImageNet, ACT achieves 68.20% standard accuracy and 44.29% robustness accuracy under a 100-iteration untargeted attack, improving upon the standard adversarial training method's 65.70% standard accuracy and 42.36% robustness.
Abstract（参考訳）: 対人訓練は、モデルの対人ロバスト性を改善する効果的な手法であることが証明されている。しかし、正確性と堅牢性のためにモデルを最適化することには、固有のトレードオフがあるようだ。そこで本研究では,ミニマックスゲームにおいて,自然モデルと連動してロバストなモデルを訓練する協調学習フレームワークにおいて,敵対的学習を用いる逆並行学習(act)を提案する。 ACTは、タスク固有の決定境界を使用して2つのモデルに特徴空間の整合を奨励し、入力空間をより広く探索する。さらに、自然なモデルは正規化子として機能し、ロバストモデルが学ぶべき機能に事前を強制する。モデルの振る舞いを解析した結果,ACT はモデル複雑性の低いロバストモデル,学習表現の高次情報圧縮,フラットなミニマへの収束を示す高次エントロピー解に導かれることが示された。提案手法の有効性を,異なるデータセットとネットワークアーキテクチャで示す。 ImageNetでは、ACTは68.20%の標準精度と44.29%のロバストネスの精度を実現し、標準対向訓練法の65.70%の標準精度と42.36%のロバストネスを改善した。

関連論文リスト

Robustness-Congruent Adversarial Training for Secure Machine Learning Model Updates [13.911586916369108]
機械学習モデルにおける誤分類は、敵の例に対して堅牢性に影響を及ぼす可能性があることを示す。この問題に対処するために,ロバストネス・コングロレント・逆行訓練という手法を提案する。我々のアルゴリズムと、より一般的には、非回帰的制約で学習することは、一貫した推定器を訓練するための理論的に基底的なフレームワークを提供することを示す。
論文参考訳（メタデータ） (2024-02-27T10:37:13Z)
Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
論文参考訳（メタデータ） (2023-10-19T13:13:41Z)
Adaptive Certified Training: Towards Better Accuracy-Robustness Tradeoffs [17.46692880231195]
本稿では,適応型認定ラジイを用いたトレーニングがモデルの精度と堅牢性の向上に役立つというキーインサイトに基づく,新しい認定トレーニング手法を提案する。提案手法の有効性を,MNIST,CIFAR-10,TinyImageNetデータセットに示す。
論文参考訳（メタデータ） (2023-07-24T18:59:46Z)
Adaptive Modeling Against Adversarial Attacks [1.90365714903665]
逆行訓練は、逆行データを用いたディープラーニングモデルを訓練するプロセスであり、ディープラーニングモデルのための最も成功した逆行防御手法の1つである。我々は,このモデルを推論段階に微調整して逆入力に適応させると,逆学習モデルの白色箱攻撃に対するロバスト性をさらに向上できることを示した。
論文参考訳（メタデータ） (2021-12-23T09:52:30Z)
Mutual Adversarial Training: Learning together is better than going alone [82.78852509965547]
モデル間の相互作用が知識蒸留による堅牢性に与える影響について検討する。本稿では,複数のモデルを同時に訓練する相互対人訓練(MAT)を提案する。 MATは、ホワイトボックス攻撃下で、モデル堅牢性と最先端メソッドを効果的に改善することができる。
論文参考訳（メタデータ） (2021-12-09T15:59:42Z)
No One Representation to Rule Them All: Overlapping Features of Training Methods [12.58238785151714]
ハイパフォーマンスモデルは、トレーニング方法論に関係なく、同様の予測をする傾向があります。近年の研究では、大規模なコントラスト学習など、非常に異なるトレーニングテクニックが、競争的に高い精度で実現されている。これらのモデルはデータの一般化に特化しており、より高いアンサンブル性能をもたらす。
論文参考訳（メタデータ） (2021-10-20T21:29:49Z)
A Simple Fine-tuning Is All You Need: Towards Robust Deep Learning Via Adversarial Fine-tuning [90.44219200633286]
我々は,$textitslow start, fast decay$ learning rate schedulingストラテジーに基づく,単純かつ非常に効果的な敵の微調整手法を提案する。実験の結果,提案手法はCIFAR-10, CIFAR-100, ImageNetデータセットの最先端手法よりも優れていた。
論文参考訳（メタデータ） (2020-12-25T20:50:15Z)
Firearm Detection via Convolutional Neural Networks: Comparing a Semantic Segmentation Model Against End-to-End Solutions [68.8204255655161]
武器の脅威検出とライブビデオからの攻撃的な行動は、潜在的に致命的な事故の迅速検出と予防に使用できる。これを実現する一つの方法は、人工知能と、特に画像分析のための機械学習を使用することです。従来のモノリシックなエンド・ツー・エンドのディープラーニングモデルと、セマンティクスセグメンテーションによって火花を検知する単純なニューラルネットワークのアンサンブルに基づく前述したモデルを比較した。
論文参考訳（メタデータ） (2020-12-17T15:19:29Z)
Voting based ensemble improves robustness of defensive models [82.70303474487105]
我々は、より堅牢性を高めるためのアンサンブルを作ることができるかどうか研究する。最先端の先制防衛モデルを複数組み合わせることで,59.8%の堅牢な精度を達成できる。
論文参考訳（メタデータ） (2020-11-28T00:08:45Z)
Improved Adversarial Training via Learned Optimizer [101.38877975769198]
対戦型トレーニングモデルの堅牢性を改善するための枠組みを提案する。共学習のパラメータモデルの重み付けにより、提案するフレームワークは、更新方向に対するロバスト性とステップの適応性を一貫して改善する。
論文参考訳（メタデータ） (2020-04-25T20:15:53Z)
Revisiting Ensembles in an Adversarial Context: Improving Natural Accuracy [5.482532589225552]
頑丈なモデルと非ロバストなモデルの間には、依然として自然な精度に大きなギャップがある。この性能差を軽減するために,多数のアンサンブル法について検討する。ランダムにロバストなモデルからの予測と、ロバストモデルと標準モデルから特徴を融合する2つのスキームを考える。
論文参考訳（メタデータ） (2020-02-26T15:45:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。