論文の概要: Towards Robust Deep Learning with Ensemble Networks and Noisy Layers
- arxiv url: http://arxiv.org/abs/2007.01507v2
- Date: Wed, 6 Jan 2021 18:05:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-14 05:02:36.705811
- Title: Towards Robust Deep Learning with Ensemble Networks and Noisy Layers
- Title(参考訳): アンサンブルネットワークと雑音層を用いたロバスト深層学習に向けて
- Authors: Yuting Liang, Reza Samavi
- Abstract要約: 画像分類型ネットワークにおける敵対的事例から保護する深層学習のためのアプローチを提案する。
1) 精度を犠牲にしてロバスト性を高めるメカニズム,2) 精度を向上するが、常にロバスト性を高めるわけではないメカニズムである。
- 参考スコア(独自算出の注目度): 2.2843885788439793
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we provide an approach for deep learning that protects against
adversarial examples in image classification-type networks. The approach relies
on two mechanisms:1) a mechanism that increases robustness at the expense of
accuracy, and, 2) a mechanism that improves accuracy but does not always
increase robustness. We show that an approach combining the two mechanisms can
provide protection against adversarial examples while retaining accuracy. We
formulate potential attacks on our approach with experimental results to
demonstrate its effectiveness. We also provide a robustness guarantee for our
approach along with an interpretation for the guarantee.
- Abstract(参考訳): 本稿では,画像分類型ネットワークの逆例から保護する深層学習のアプローチを提案する。
アプローチは2つのメカニズムに依存している: 1) 精度を犠牲にして堅牢性を高めるメカニズム、そして、
2)精度は向上するが、常に堅牢性を高めないメカニズム。
この2つのメカニズムを組み合わせたアプローチは, 精度を維持しつつ, 敵対的事例から保護できることを示す。
我々は,その効果を実証するために,実験結果を用いてアプローチに対する潜在的な攻撃を定式化する。
また、我々のアプローチに対する堅牢性保証と、その保証の解釈も提供します。
関連論文リスト
- Exploring the Adversarial Frontier: Quantifying Robustness via Adversarial Hypervolume [17.198794644483026]
本稿では,様々な摂動強度に対して総合的に深層学習モデルの頑健性を評価するための,対向超体積と呼ばれる新しい計量法を提案する。
我々は,様々な摂動強度の対向的堅牢性を均一に向上する新しいトレーニングアルゴリズムを採用する。
本研究はロバスト性の新しい尺度に寄与し、敵の脅威に対するベンチマーク評価と、現在および将来の防御モデルのレジリエンスの基準を確立する。
論文 参考訳(メタデータ) (2024-03-08T07:03:18Z) - Towards Robust Semantic Segmentation against Patch-based Attack via Attention Refinement [68.31147013783387]
我々は,アテンション機構がパッチベースの敵攻撃に弱いことを観察した。
本稿では,意味的セグメンテーションモデルの堅牢性を改善するために,ロバスト注意機構(RAM)を提案する。
論文 参考訳(メタデータ) (2024-01-03T13:58:35Z) - PGN: A perturbation generation network against deep reinforcement
learning [8.546103661706391]
エージェントを攻撃するための効果的な敵例を作成するための新しい生成モデルを提案する。
深層強化学習の特異性を考慮して,ステルスネスの尺度として行動整合性比を提案する。
論文 参考訳(メタデータ) (2023-12-20T10:40:41Z) - Boosting Adversarial Robustness using Feature Level Stochastic Smoothing [46.86097477465267]
敵の防御は、ディープニューラルネットワークの堅牢性を大幅に向上させた。
本研究では,ネットワーク予測における導入性に関する一般的な手法を提案する。
また、信頼性の低い予測を拒否する意思決定の円滑化にも活用する。
論文 参考訳(メタデータ) (2023-06-10T15:11:24Z) - Adversarial Purification with the Manifold Hypothesis [14.085013765853226]
この枠組みを用いた逆浄化法を開発した。
我々のアプローチは、攻撃者が防衛の存在を認識しているとしても、敵の堅牢性を提供することができる。
論文 参考訳(メタデータ) (2022-10-26T01:00:57Z) - Towards A Conceptually Simple Defensive Approach for Few-shot
classifiers Against Adversarial Support Samples [107.38834819682315]
本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。
本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。
ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
論文 参考訳(メタデータ) (2021-10-24T05:46:03Z) - Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。
任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。
本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文 参考訳(メタデータ) (2021-05-31T17:01:05Z) - Adversarial Robustness under Long-Tailed Distribution [93.50792075460336]
敵対的ロバスト性はディープネットワークの脆弱性と本質的特徴を明らかにすることで近年広く研究されている。
本研究では,長尾分布下における敵対的脆弱性と防御について検討する。
我々は、スケール不変とデータ再分散という2つの専用モジュールからなるクリーンで効果的なフレームワークであるRoBalを提案する。
論文 参考訳(メタデータ) (2021-04-06T17:53:08Z) - A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。
本稿では,入力空間における自己教師型対向学習機構を提案する。
これは、反逆攻撃に対する強力な堅牢性を提供する。
論文 参考訳(メタデータ) (2020-06-08T20:42:39Z) - Hidden Cost of Randomized Smoothing [72.93630656906599]
本稿では、現在のランダム化平滑化による副作用を指摘する。
具体的には,1)スムーズな分類器の決定境界が小さくなり,クラスレベルでの精度の相違が生じること,2)学習過程における雑音増強の適用は,一貫性のない学習目的による縮小問題を必ずしも解決しない,という2つの主要なポイントを具体化し,証明する。
論文 参考訳(メタデータ) (2020-03-02T23:37:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。