Fugu-MT 論文翻訳(概要): Robust Neural Networks inspired by Strong Stability Preserving Runge-Kutta methods

論文の概要: Robust Neural Networks inspired by Strong Stability Preserving Runge-Kutta methods

arxiv url: http://arxiv.org/abs/2010.10047v1
Date: Tue, 20 Oct 2020 05:55:58 GMT
ステータス: 処理完了
システム内更新日: 2022-10-05 07:13:53.908287
Title: Robust Neural Networks inspired by Strong Stability Preserving Runge-Kutta methods
Title（参考訳）: ランジュ・クッタ法による強安定保存型ロバストニューラルネットワーク
Authors: Byungjoo Kim, Bryce Chudomelka, Jinyoung Park, Jaewoo Kang, Youngjoon Hong, Hyunwoo J. Kim
Abstract要約: 敵攻撃に対する堅牢性を向上するSSP(Strong stability Preserving Network)を提案する。 SSPネットワークは、最先端の対人訓練スキームと相補的である。この結果から,数値離散化文学から豊富な知識を生かしたニューラルネットワークの堅牢なアーキテクチャを研究できる可能性が示唆された。
参考スコア（独自算出の注目度）: 24.359072360425536
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep neural networks have achieved state-of-the-art performance in a variety of fields. Recent works observe that a class of widely used neural networks can be viewed as the Euler method of numerical discretization. From the numerical discretization perspective, Strong Stability Preserving (SSP) methods are more advanced techniques than the explicit Euler method that produce both accurate and stable solutions. Motivated by the SSP property and a generalized Runge-Kutta method, we propose Strong Stability Preserving networks (SSP networks) which improve robustness against adversarial attacks. We empirically demonstrate that the proposed networks improve the robustness against adversarial examples without any defensive methods. Further, the SSP networks are complementary with a state-of-the-art adversarial training scheme. Lastly, our experiments show that SSP networks suppress the blow-up of adversarial perturbations. Our results open up a way to study robust architectures of neural networks leveraging rich knowledge from numerical discretization literature.
Abstract（参考訳）: ディープニューラルネットワークは様々な分野で最先端のパフォーマンスを達成した。近年の研究では、広く使われているニューラルネットワークのクラスを数値離散化のオイラー法とみなすことができる。数値的な離散化の観点から、SSP法は正確な解と安定解の両方を生成する明示的なオイラー法よりも高度な手法である。 SSP特性と一般化したRunge-Kutta法により,敵攻撃に対するロバスト性を改善するSSPネットワーク(Strong stability Preserving Network)を提案する。提案するネットワークは, 防御手法を使わずに, 敵の事例に対する堅牢性を向上させることを実証的に実証した。さらに、SSPネットワークは最先端の対人訓練スキームと相補的である。最後に,SSPネットワークが対向性摂動の爆発を抑制することを示す。この結果から,数値離散化文学からの豊富な知識を生かしたニューラルネットワークの堅牢なアーキテクチャの研究方法が開かれた。

関連論文リスト

Defending Spiking Neural Networks against Adversarial Attacks through Image Purification [20.492531851480784]
Spiking Neural Networks(SNN)は、神経科学と機械学習のギャップを埋めることを目的としている。 SNNは畳み込みニューラルネットワークのような敵の攻撃に弱い。本稿では,SNNの堅牢性を高めるための生物学的にインスパイアされた手法を提案する。
論文参考訳（メタデータ） (2024-04-26T00:57:06Z)
Advancing DDoS Attack Detection: A Synergistic Approach Using Deep Residual Neural Networks and Synthetic Oversampling [2.988269372716689]
本稿では,Deep Residual Neural Networks(ResNets)の機能を活用したDDoS攻撃検出の強化手法を提案する。我々は、良性および悪意のあるデータポイントの表現のバランスをとり、モデルが攻撃を示す複雑なパターンをよりよく識別できるようにする。実世界のデータセットを用いた実験結果から,従来の手法よりもはるかに優れた99.98%の精度が得られた。
論文参考訳（メタデータ） (2024-01-06T03:03:52Z)
Quantization-aware Interval Bound Propagation for Training Certifiably Robust Quantized Neural Networks [58.195261590442406]
我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
論文参考訳（メタデータ） (2022-11-29T13:32:38Z)
Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文参考訳（メタデータ） (2022-04-01T03:31:27Z)
Robustness against Adversarial Attacks in Neural Networks using Incremental Dissipativity [3.8673567847548114]
逆例はニューラルネットワークの分類性能を低下させるのが容易である。本研究は,ニューラルネットワークに対する漸進的拡散性に基づくロバスト性証明を提案する。
論文参考訳（メタデータ） (2021-11-25T04:42:57Z)
Defensive Tensorization [113.96183766922393]
本稿では,ネットワークの遅延高次分解を利用した対角防御手法であるテンソル防御手法を提案する。我々は,標準画像分類ベンチマークにおけるアプローチの有効性を実証的に実証した。我々は,音声タスクとバイナリネットワークを考慮し,ドメイン間のアプローチと低精度アーキテクチャの汎用性を検証した。
論文参考訳（メタデータ） (2021-10-26T17:00:16Z)
GradDiv: Adversarial Robustness of Randomized Neural Networks via Gradient Diversity Regularization [3.9157051137215504]
プロキシ勾配を用いた敵攻撃がランダム化ニューラルネットワークに与える影響について検討する。より散らばった場合,プロキシ勾配は効果が低いことを示す。ニューラルネットワークを構築するための勾配の濃度を最小化するグラディエント・ダイバーシティ(GradDiv)正則化を提案する。
論文参考訳（メタデータ） (2021-07-06T06:57:40Z)
Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
論文参考訳（メタデータ） (2021-01-28T16:38:26Z)
Evaluation of Adversarial Training on Different Types of Neural Networks in Deep Learning-based IDSs [3.8073142980733]
我々は、異なる回避攻撃の有効性と、レジリエンス深層学習に基づくIDSの訓練方法に焦点をあてる。我々は min-max アプローチを用いて、敵の例に対して頑健なIDSを訓練する問題を定式化する。異なるディープラーニングアルゴリズムと異なるベンチマークデータセットに関する実験により、敵の訓練に基づくmin-maxアプローチによる防御が、よく知られた5つの敵の攻撃方法に対する堅牢性を向上することを示した。
論文参考訳（メタデータ） (2020-07-08T23:33:30Z)
ESPN: Extremely Sparse Pruned Networks [50.436905934791035]
簡単な反復マスク探索法により,非常に深いネットワークの最先端の圧縮を実現することができることを示す。本アルゴリズムは,シングルショット・ネットワーク・プルーニング法とロッテ・ティケット方式のハイブリッド・アプローチを示す。
論文参考訳（メタデータ） (2020-06-28T23:09:27Z)
Learn2Perturb: an End-to-end Feature Perturbation Learning to Improve Adversarial Robustness [79.47619798416194]
Learn2Perturbは、ディープニューラルネットワークの対角的堅牢性を改善するために、エンドツーエンドの機能摂動学習アプローチである。予測最大化にインスパイアされ、ネットワークと雑音パラメータを連続的にトレーニングするために、交互にバックプロパゲーショントレーニングアルゴリズムが導入された。
論文参考訳（メタデータ） (2020-03-02T18:27:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。