論文の概要: Neural Ordinary Differential Equations for Nonlinear System
Identification
- arxiv url: http://arxiv.org/abs/2203.00120v1
- Date: Mon, 28 Feb 2022 22:25:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-02 15:35:43.029324
- Title: Neural Ordinary Differential Equations for Nonlinear System
Identification
- Title(参考訳): 非線形システム同定のための神経常微分方程式
- Authors: Aowabin Rahman and J\'an Drgo\v{n}a and Aaron Tuor and Jan Strube
- Abstract要約: 本研究では,NODEの性能をニューラル状態空間モデルと古典線形システム同定法と比較する。
実験の結果,NODEはベンチマーク手法に比べて精度を桁違いに向上できることがわかった。
- 参考スコア(独自算出の注目度): 0.9864260997723973
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural ordinary differential equations (NODE) have been recently proposed as
a promising approach for nonlinear system identification tasks. In this work,
we systematically compare their predictive performance with current
state-of-the-art nonlinear and classical linear methods. In particular, we
present a quantitative study comparing NODE's performance against neural
state-space models and classical linear system identification methods. We
evaluate the inference speed and prediction performance of each method on
open-loop errors across eight different dynamical systems. The experiments show
that NODEs can consistently improve the prediction accuracy by an order of
magnitude compared to benchmark methods. Besides improved accuracy, we also
observed that NODEs are less sensitive to hyperparameters compared to neural
state-space models. On the other hand, these performance gains come with a
slight increase of computation at the inference time.
- Abstract(参考訳): ニューラル常微分方程式 (NODE) は非線形システム同定タスクにおいて有望なアプローチとして提案されている。
本研究では,その予測性能と現状の非線形および古典的線形手法を系統的に比較する。
特に,NODEの性能をニューラル状態空間モデルと古典線形システム同定法と比較した定量的研究を提案する。
8種類の力学系における開ループ誤差に対する各手法の予測速度と予測性能を評価する。
実験の結果,ノードはベンチマーク法と比較して予測精度を桁違いに向上できることがわかった。
精度の向上に加えて、ノードは神経状態空間モデルに比べてハイパーパラメータに対する感度が低いことも観察した。
一方、これらの性能向上には、推論時の計算量がわずかに増加する。
関連論文リスト
- Non-Parametric Learning of Stochastic Differential Equations with Non-asymptotic Fast Rates of Convergence [65.63201894457404]
非線形微分方程式のドリフトと拡散係数の同定のための新しい非パラメトリック学習パラダイムを提案する。
鍵となる考え方は、基本的には、対応するフォッカー・プランク方程式のRKHSに基づく近似をそのような観測に適合させることである。
論文 参考訳(メタデータ) (2023-05-24T20:43:47Z) - Benchmarking sparse system identification with low-dimensional chaos [1.5849413067450229]
カオスシステムのダイエット標準化データベースを利用して,スパース回帰変種を系統的にベンチマークする。
我々は,このオープンソースツールを用いて,システム識別の異なる手法を定量的に比較する方法を実証する。
いずれの場合も,SINDyの雑音頑健性を改善し,統計的比較を行うためにアンサンブルを用いた。
論文 参考訳(メタデータ) (2023-02-04T18:49:52Z) - Identifiability and Asymptotics in Learning Homogeneous Linear ODE Systems from Discrete Observations [114.17826109037048]
通常の微分方程式(ODE)は、機械学習において最近多くの注目を集めている。
理論的な側面、例えば、統計的推定の識別可能性と特性は、いまだに不明である。
本稿では,1つの軌道からサンプリングされた等間隔の誤差のない観測結果から,同次線形ODE系の同定可能性について十分な条件を導出する。
論文 参考訳(メタデータ) (2022-10-12T06:46:38Z) - A Priori Denoising Strategies for Sparse Identification of Nonlinear
Dynamical Systems: A Comparative Study [68.8204255655161]
本研究では, 局所的およびグローバルな平滑化手法の性能と, 状態測定値の偏差について検討・比較する。
一般に,測度データセット全体を用いたグローバルな手法は,局所点の周辺に隣接するデータサブセットを用いる局所的手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-01-29T23:31:25Z) - Observation Error Covariance Specification in Dynamical Systems for Data
assimilation using Recurrent Neural Networks [0.5330240017302621]
長期記憶(LSTM)リカレントニューラルネットワーク(RNN)に基づくデータ駆動型アプローチを提案する。
提案手法では,事前の誤差分布に関する知識や仮定は不要である。
提案手法を,DI01とD05という2つの最先端共分散チューニングアルゴリズムと比較した。
論文 参考訳(メタデータ) (2021-11-11T20:23:00Z) - Distributional Gradient Matching for Learning Uncertain Neural Dynamics
Models [38.17499046781131]
本稿では,数値積分ボトルネックを回避するため,不確実なニューラル・オーダを推定するための新しい手法を提案する。
我々のアルゴリズム - 分布勾配マッチング (DGM) は、よりスムーズなモデルと動的モデルを共同で訓練し、ワッサーシュタイン損失を最小化することでそれらの勾配と一致する。
数値積分に基づく従来の近似推論手法と比較して,我々の手法は訓練がより速く,これまで見つからなかった軌道の予測がより高速であり,ニューラルODEの文脈では,はるかに正確であることがわかった。
論文 参考訳(メタデータ) (2021-06-22T08:40:51Z) - Data Assimilation Networks [1.5545257664210517]
データ同化は、システムの数学的表現とノイズの観測を組み合わせることで、力学系の状態を予測することを目的としている。
本稿では,再帰的エルマンネットワークとデータ同化アルゴリズムを一般化した完全データ駆動型ディープラーニングアーキテクチャを提案する。
本アーキテクチャは, 明示的な正規化手法を使わずに, システム状態の確率密度関数の解析と伝播の両面において, EnKF に匹敵する性能を達成している。
論文 参考訳(メタデータ) (2020-10-19T17:35:36Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Interpolation Technique to Speed Up Gradients Propagation in Neural ODEs [71.26657499537366]
本稿では,ニューラルネットワークモデルにおける勾配の効率的な近似法を提案する。
我々は、分類、密度推定、推論近似タスクにおいて、ニューラルODEをトレーニングするリバースダイナミック手法と比較する。
論文 参考訳(メタデータ) (2020-03-11T13:15:57Z) - Stochasticity in Neural ODEs: An Empirical Study [68.8204255655161]
ニューラルネットワークの正規化(ドロップアウトなど)は、より高度な一般化を可能にするディープラーニングの広範な技術である。
トレーニング中のデータ拡張は、同じモデルの決定論的およびバージョンの両方のパフォーマンスを向上させることを示す。
しかし、データ拡張によって得られる改善により、経験的正規化の利得は完全に排除され、ニューラルODEとニューラルSDEの性能は無視される。
論文 参考訳(メタデータ) (2020-02-22T22:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。