論文の概要: Ortho-ODE: Enhancing Robustness and of Neural ODEs against Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2305.09179v1
• Date: Tue, 16 May 2023 05:37:06 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-17 16:13:13.371486
• Title: Ortho-ODE: Enhancing Robustness and of Neural ODEs against Adversarial Attacks
• Title（参考訳）: Ortho-ODE: 敵攻撃に対するロバスト性向上とニューラルなODE
• Authors: Vishal Purohit
• Abstract要約: ODE力学のリプシッツ定数を制御することにより、ロバスト性を大幅に改善できることを示す。 多数のデータセット上で強化された堅牢性を裏付ける。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural Ordinary Differential Equations (NODEs) probed the usage of numerical solvers to solve the differential equation characterized by a Neural Network (NN), therefore initiating a new paradigm of deep learning models with infinite depth. NODEs were designed to tackle the irregular time series problem. However, NODEs have demonstrated robustness against various noises and adversarial attacks. This paper is about the natural robustness of NODEs and examines the cause behind such surprising behaviour. We show that by controlling the Lipschitz constant of the ODE dynamics the robustness can be significantly improved. We derive our approach from Grownwall's inequality. Further, we draw parallels between contractivity theory and Grownwall's inequality. Experimentally we corroborate the enhanced robustness on numerous datasets - MNIST, CIFAR-10, and CIFAR 100. We also present the impact of adaptive and non-adaptive solvers on the robustness of NODEs.
• Abstract（参考訳）: ニューラル正規微分方程式(NODE)は、ニューラルネットワーク(NN)が特徴とする微分方程式を解くために数値解法を用いて探索し、無限深さのディープラーニングモデルの新たなパラダイムを開始する。 NODEは不規則な時系列問題に対処するために設計された。 しかし、NODEは様々なノイズや敵の攻撃に対して堅牢性を示している。 本稿では,NODEの自然的堅牢性について論じ,このような驚くべき行動の原因について考察する。 odeダイナミクスのリプシッツ定数を制御することにより,ロバスト性が大幅に向上することを示す。 我々はGrownwallの不平等からアプローチを導き出した。 さらに、縮約理論とグローゼンウォールの不等式の間に平行性を描く。 実験により、多数のデータセット(MNIST、CIFAR-10、CIFAR 100)上で強化されたロバスト性を裏付ける。 また,NODEのロバスト性に対する適応的および非適応的解法の影響についても述べる。

関連論文リスト

• Robust Graph Neural Networks via Unbiased Aggregation [18.681451049083407]
  グラフニューラルネットワーク(GNN)の敵対的堅牢性は、強い適応攻撃によって発見されたセキュリティの誤った感覚のために疑問視されている。 私たちは、その堅牢性と限界を理解するために、統一されたロバストな見積もりポイントを提供する。
  論文  参考訳（メタデータ） (2023-11-25T05:34:36Z)
• Unconstrained Parametrization of Dissipative and Contracting Neural Ordinary Differential Equations [0.9437165725355698]
  本稿では,Deep Neural Networks (DNN) のクラスを連続的に導入し,研究する。 私たちは、提案されているNodeRENを、堅牢な学習と制御にとって重要な特性である、収縮性と分散性で支援する方法を示します。
  論文  参考訳（メタデータ） (2023-04-06T10:02:54Z)
• On Robust Classification using Contractive Hamiltonian Neural ODEs [8.049462923912902]
  我々は、ニューラルネットワーク(NODE)の堅牢性を改善するために収縮理論を用いる。 NODEでは、入力データは力学系の初期状態に対応する。 契約型ハミルトニアン・ヌード(CH-ヌード)のクラスを提案する。
  論文  参考訳（メタデータ） (2022-03-22T15:16:36Z)
• Stable Neural ODE with Lyapunov-Stable Equilibrium Points for Defending Against Adversarial Attacks [32.88499015927756]
  我々は,Lyapunov-stable平衡点を持つ安定なニューラル・オードを提案し,敵対的攻撃(SODEF)を防御する。 我々は、SODEFの安定性に関する洞察を与える理論的な結果と、その安定性を確保するための正則化器の選択を提供する。
  論文  参考訳（メタデータ） (2021-10-25T14:09:45Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Neural ODE Processes [64.10282200111983]
  NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。 我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
  論文  参考訳（メタデータ） (2021-03-23T09:32:06Z)
• Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
  本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。 解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
  論文  参考訳（メタデータ） (2021-03-15T17:26:34Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)
• Hypersolvers: Toward Fast Continuous-Depth Models [16.43439140464003]
  オーバヘッドが低く、精度が理論的に保証されているODEを解くために設計されたニューラルネットワークであるハイパーソルバを導入する。 ハイパーゾルバとニューラルODEの相乗的組み合わせにより、安上がりな推論が可能となり、連続深度モデルの実用的な応用のための新しいフロンティアが解放される。
  論文  参考訳（メタデータ） (2020-07-19T06:31:31Z)
• An Ode to an ODE [78.97367880223254]
  我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。 この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
  論文  参考訳（メタデータ） (2020-06-19T22:05:19Z)
• Time Dependence in Non-Autonomous Neural ODEs [74.78386661760662]
  時変重みを持つニューラルODEの新しいファミリーを提案する。 我々は、速度と表現能力の両面で、従来のニューラルODEの変形よりも優れていた。
  論文  参考訳（メタデータ） (2020-05-05T01:41:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。