論文の概要: FI-ODE: Certified and Robust Forward Invariance in Neural ODEs

• arxiv url: http://arxiv.org/abs/2210.16940v1
• Date: Sun, 30 Oct 2022 20:30:19 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-01 18:10:10.707241
• Title: FI-ODE: Certified and Robust Forward Invariance in Neural ODEs
• Title（参考訳）: FI-ODE: ニューラルネットワークにおける認証とロバストな前方不変性
• Authors: Yujia Huang, Ivan Dario Jimenez Rodriguez, Huan Zhang, Yuanyuan Shi, Yisong Yue
• Abstract要約: 前向きの不変性は、ODEの隠された状態が「良い」領域に留まり、頑健なバージョンが入力に対する逆の摂動の下でも保持されることを意味する。 我々は,非線形制御理論とサンプリングベース検証のツールを用いた汎用的な手法を開発した。 提案手法は,ORモデルに対する先行研究と比較して,最強の対向ロバスト性保証を実証的に生み出す。
• 参考スコア（独自算出の注目度）: 36.390912795076865
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study how to certifiably enforce forward invariance properties in neural ODEs. Forward invariance implies that the hidden states of the ODE will stay in a ``good'' region, and a robust version would hold even under adversarial perturbations to the input. Such properties can be used to certify desirable behaviors such as adversarial robustness (the hidden states stay in the region that generates accurate classification even under input perturbations) and safety in continuous control (the system never leaves some safe set). We develop a general approach using tools from non-linear control theory and sampling-based verification. Our approach empirically produces the strongest adversarial robustness guarantees compared to prior work on certifiably robust ODE-based models (including implicit-depth models).
• Abstract（参考訳）: ニューラルオデムの前方不変性特性を認証的に強制する方法について検討した。 フォワード不変性は、ODEの隠された状態が `good'' 領域に留まり、ロバストバージョンが入力に対する逆の摂動の下でも保持されることを意味する。 このような性質は、敵対的堅牢性(入力摂動の下でも正確な分類を生成する領域に隠れた状態が留まる)や連続制御における安全性(システムは安全な集合を残しない)などの望ましい行動を証明するために用いられる。 非線形制御理論とサンプリングベース検証のツールを用いた一般的な手法を開発する。 提案手法は, 暗黙の深度モデルを含む) ODE モデルに対する先行研究と比較して, 最強の対向性保証を実証的に生成する。

関連論文リスト

• FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks [62.897993591443594]
  FullCertは、音と決定論的境界を持つ最初のエンドツーエンドの認証器である。 2つのデータセットに対してFullCertの有効性を実験的に示す。
  論文  参考訳（メタデータ） (2024-06-17T13:23:52Z)
• Transfer of Safety Controllers Through Learning Deep Inverse Dynamics Model [4.7962647777554634]
  制御障壁証明書は、制御システムの安全性を正式に保証する上で有効であることが証明されている。 制御障壁証明書の設計は、時間がかかり、計算に費用がかかる作業である。 本稿では,制御器の正当性を保証する妥当性条件を提案する。
  論文  参考訳（メタデータ） (2024-05-22T15:28:43Z)
• Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing [87.48628403354351]
  機械学習の認証は、特定の条件下では、敵対的なサンプルが特定の範囲内でモデルを回避できないことを証明している。 セグメンテーションの一般的な認証方法は、平らな粒度のクラスを使い、モデルの不確実性による高い断続率をもたらす。 本稿では,複数レベルの階層内で画素を認証し,不安定なコンポーネントに対して粗いレベルに適応的に認証を緩和する,新しい,より実用的な設定を提案する。
  論文  参考訳（メタデータ） (2024-02-13T11:59:43Z)
• Joint Differentiable Optimization and Verification for Certified Reinforcement Learning [91.93635157885055]
  安全クリティカル制御システムのためのモデルベース強化学習では,システム特性を正式に認定することが重要である。 本稿では,強化学習と形式検証を共同で行う枠組みを提案する。
  論文  参考訳（メタデータ） (2022-01-28T16:53:56Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)
• CROP: Certifying Robust Policies for Reinforcement Learning through Functional Smoothing [41.093241772796475]
  本稿では, 逆境状態の摂動に対する強化学習(CROP)のためのロバスト政策の認定のための最初の枠組みを提案する。 本研究では,国家ごとの行動の堅牢性と累積報酬の低限界の2種類のロバスト性認定基準を提案する。
  論文  参考訳（メタデータ） (2021-06-17T07:58:32Z)
• Bayesian Inference with Certifiable Adversarial Robustness [25.40092314648194]
  ベイズ学習のレンズによる対向学習ネットワークについて考察する。 本稿では,ベイズニューラルネットワーク(BNN)の認証保証付き対数訓練のための基本的枠組みを提案する。 本手法は,認証済みBNNを直接訓練する最初の方法であり,安全クリティカルなアプリケーションでの使用を容易にする。
  論文  参考訳（メタデータ） (2021-02-10T07:17:49Z)
• Certified Distributional Robustness on Smoothed Classifiers [27.006844966157317]
  本稿では,ロバスト性証明として,入力分布に対する最悪の逆損失を提案する。 双対性と滑らか性を利用して、証明書のサロゲートとして容易に計算できる上限を与える。
  論文  参考訳（メタデータ） (2020-10-21T13:22:25Z)
• Generalisation Guarantees for Continual Learning with Orthogonal Gradient Descent [81.29979864862081]
  継続的な学習環境では、深いニューラルネットワークは破滅的な予測をしがちである。 本稿では,ニューラルタンジェントカーネルシステムにおける連続学習アルゴリズムの理論的枠組みを提案する。
  論文  参考訳（メタデータ） (2020-06-21T23:49:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。