論文の概要: FI-ODE: Certifiably Robust Forward Invariance in Neural ODEs

• arxiv url: http://arxiv.org/abs/2210.16940v4
• Date: Fri, 22 Dec 2023 06:43:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-25 19:06:28.981911
• Title: FI-ODE: Certifiably Robust Forward Invariance in Neural ODEs
• Title（参考訳）: FI-ODE:ニューラル・オードにおけるロバストな前方不変性
• Authors: Yujia Huang, Ivan Dario Jimenez Rodriguez, Huan Zhang, Yuanyuan Shi, Yisong Yue
• Abstract要約: 本稿では,ニューラルネットワークのフォワード不変性をトレーニングし,確実に証明するための一般的なフレームワークを提案する。 このフレームワークを、堅牢な継続的制御において認証された安全性を提供するために適用します。 さらに,画像分類における逆方向の堅牢性を証明するために,このフレームワークの汎用性について検討する。
• 参考スコア（独自算出の注目度）: 34.762005448725226
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Forward invariance is a long-studied property in control theory that is used to certify that a dynamical system stays within some pre-specified set of states for all time, and also admits robustness guarantees (e.g., the certificate holds under perturbations). We propose a general framework for training and provably certifying robust forward invariance in Neural ODEs. We apply this framework to provide certified safety in robust continuous control. To our knowledge, this is the first instance of training Neural ODE policies with such non-vacuous certified guarantees. In addition, we explore the generality of our framework by using it to certify adversarial robustness for image classification.
• Abstract（参考訳）: フォワード不変性(フォワード不変性、Forward invariance)とは、制御理論において、力学系が常に指定された状態の集合内に留まり、堅牢性を保証する(例えば、証明書は摂動の下で保持される)ことを証明するために用いられる長期研究された性質である。 本稿では,ニューラルネットワークにおけるフォワード不変性の証明とトレーニングのための一般的なフレームワークを提案する。 このフレームワークは、堅牢な継続的制御において認証された安全性を提供する。 私たちの知る限りでは、このような保証のない保証でNeural ODEポリシーをトレーニングする最初の例です。 さらに,画像分類の可逆的ロバスト性を証明するために,このフレームワークの汎用性について検討する。

関連論文リスト

• FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks [62.897993591443594]
  FullCertは、音と決定論的境界を持つ最初のエンドツーエンドの認証器である。 2つのデータセットに対してFullCertの有効性を実験的に示す。
  論文  参考訳（メタデータ） (2024-06-17T13:23:52Z)
• Transfer of Safety Controllers Through Learning Deep Inverse Dynamics Model [4.7962647777554634]
  制御障壁証明書は、制御システムの安全性を正式に保証する上で有効であることが証明されている。 制御障壁証明書の設計は、時間がかかり、計算に費用がかかる作業である。 本稿では,制御器の正当性を保証する妥当性条件を提案する。
  論文  参考訳（メタデータ） (2024-05-22T15:28:43Z)
• Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing [87.48628403354351]
  機械学習の認証は、特定の条件下では、敵対的なサンプルが特定の範囲内でモデルを回避できないことを証明している。 セグメンテーションの一般的な認証方法は、平らな粒度のクラスを使い、モデルの不確実性による高い断続率をもたらす。 本稿では,複数レベルの階層内で画素を認証し,不安定なコンポーネントに対して粗いレベルに適応的に認証を緩和する,新しい,より実用的な設定を提案する。
  論文  参考訳（メタデータ） (2024-02-13T11:59:43Z)
• Joint Differentiable Optimization and Verification for Certified Reinforcement Learning [91.93635157885055]
  安全クリティカル制御システムのためのモデルベース強化学習では,システム特性を正式に認定することが重要である。 本稿では,強化学習と形式検証を共同で行う枠組みを提案する。
  論文  参考訳（メタデータ） (2022-01-28T16:53:56Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)
• CROP: Certifying Robust Policies for Reinforcement Learning through Functional Smoothing [41.093241772796475]
  本稿では, 逆境状態の摂動に対する強化学習(CROP)のためのロバスト政策の認定のための最初の枠組みを提案する。 本研究では,国家ごとの行動の堅牢性と累積報酬の低限界の2種類のロバスト性認定基準を提案する。
  論文  参考訳（メタデータ） (2021-06-17T07:58:32Z)
• Bayesian Inference with Certifiable Adversarial Robustness [25.40092314648194]
  ベイズ学習のレンズによる対向学習ネットワークについて考察する。 本稿では,ベイズニューラルネットワーク(BNN)の認証保証付き対数訓練のための基本的枠組みを提案する。 本手法は,認証済みBNNを直接訓練する最初の方法であり,安全クリティカルなアプリケーションでの使用を容易にする。
  論文  参考訳（メタデータ） (2021-02-10T07:17:49Z)
• Certified Distributional Robustness on Smoothed Classifiers [27.006844966157317]
  本稿では,ロバスト性証明として,入力分布に対する最悪の逆損失を提案する。 双対性と滑らか性を利用して、証明書のサロゲートとして容易に計算できる上限を与える。
  論文  参考訳（メタデータ） (2020-10-21T13:22:25Z)
• Generalisation Guarantees for Continual Learning with Orthogonal Gradient Descent [81.29979864862081]
  継続的な学習環境では、深いニューラルネットワークは破滅的な予測をしがちである。 本稿では,ニューラルタンジェントカーネルシステムにおける連続学習アルゴリズムの理論的枠組みを提案する。
  論文  参考訳（メタデータ） (2020-06-21T23:49:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。