論文の概要: Learning Continuous-Time Dynamics by Stochastic Differential Networks
- arxiv url: http://arxiv.org/abs/2006.06145v3
- Date: Thu, 29 Apr 2021 14:32:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 09:44:44.815078
- Title: Learning Continuous-Time Dynamics by Stochastic Differential Networks
- Title(参考訳): 確率微分ネットワークによる連続時間ダイナミクスの学習
- Authors: Yingru Liu, Yucheng Xing, Xuewen Yang, Xin Wang, Jing Shi, Di Jin,
Zhaoyue Chen
- Abstract要約: 変動微分ネットワーク(VSDN)という,フレキシブルな連続時間リカレントニューラルネットワークを提案する。
VSDNは神経微分方程式(SDE)による散発時間系列の複雑なダイナミクスを埋め込む
VSDNは最先端の継続的ディープラーニングモデルより優れており、散発時系列の予測やタスクにおいて優れた性能を発揮する。
- 参考スコア(独自算出の注目度): 32.63114111531396
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning continuous-time stochastic dynamics is a fundamental and essential
problem in modeling sporadic time series, whose observations are irregular and
sparse in both time and dimension. For a given system whose latent states and
observed data are high-dimensional, it is generally impossible to derive a
precise continuous-time stochastic process to describe the system behaviors. To
solve the above problem, we apply Variational Bayesian method and propose a
flexible continuous-time stochastic recurrent neural network named Variational
Stochastic Differential Networks (VSDN), which embeds the complicated dynamics
of the sporadic time series by neural Stochastic Differential Equations (SDE).
VSDNs capture the stochastic dependency among latent states and observations by
deep neural networks. We also incorporate two differential Evidence Lower
Bounds to efficiently train the models. Through comprehensive experiments, we
show that VSDNs outperform state-of-the-art continuous-time deep learning
models and achieve remarkable performance on prediction and interpolation tasks
for sporadic time series.
- Abstract(参考訳): 連続時間確率力学の学習は散発時系列をモデル化する上で基本的な問題であり、その観察は時間と次元の両方において不規則で疎い。
潜在状態と観測データが高次元の任意の系では、システムの振る舞いを記述するための正確な連続時間確率過程を導出することは一般に不可能である。
この問題を解決するために、変分ベイズ法を適用し、ニューラル確率微分方程式(SDE)による散発時系列の複雑なダイナミクスを埋め込んだ変分確率微分ネットワーク(VSDN)というフレキシブルな連続時間確率リカレントニューラルネットワークを提案する。
VSDNは潜伏状態間の確率的依存を捉え、ディープニューラルネットワークによる観察を行う。
また、2つの微分エビデンス下界を組み込んでモデルを効率的に訓練する。
総合実験により、VSDNは最先端の継続的ディープラーニングモデルより優れ、散発時系列の予測および補間タスクにおいて顕著な性能を発揮することを示す。
関連論文リスト
- Trajectory Flow Matching with Applications to Clinical Time Series Modeling [77.58277281319253]
Trajectory Flow Matching (TFM) は、シミュレーションのない方法でニューラルSDEを訓練し、ダイナミックスを通してバックプロパゲーションをバイパスする。
絶対的性能と不確実性予測の観点から,3つの臨床時系列データセットの性能向上を実証した。
論文 参考訳(メタデータ) (2024-10-28T15:54:50Z) - PDETime: Rethinking Long-Term Multivariate Time Series Forecasting from
the perspective of partial differential equations [49.80959046861793]
本稿では,ニューラルPDEソルバの原理に着想を得た新しいLMTFモデルであるPDETimeを提案する。
7つの異なる時間的実世界のLMTFデータセットを用いた実験により、PDETimeがデータ固有の性質に効果的に適応できることが判明した。
論文 参考訳(メタデータ) (2024-02-25T17:39:44Z) - Neural Continuous-Discrete State Space Models for Irregularly-Sampled
Time Series [18.885471782270375]
NCDSSMは補助変数を用いて力学からの認識をアンタングルし、補助変数のみに償却推論を必要とする。
本稿では、潜在力学の3つのフレキシブルパラメータ化と、推論中の動的状態の辺りを生かした効率的な学習目標を提案する。
複数のベンチマークデータセットの実証結果は、既存のモデルよりもNCDSSMの計算性能と予測性能が改善されたことを示している。
論文 参考訳(メタデータ) (2023-01-26T18:45:04Z) - Learning effective dynamics from data-driven stochastic systems [2.4578723416255754]
この研究は、低速力学系に対する効果的な力学の研究に費やされている。
遅い多様体を学習するために,Auto-SDEと呼ばれるニューラルネットワークを含む新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-09T09:56:58Z) - Time Series Forecasting with Ensembled Stochastic Differential Equations
Driven by L\'evy Noise [2.3076895420652965]
我々は、ニューラルネットワークを備えたSDEの集合を用いて、ノイズのある時系列の長期的な傾向を予測する。
まず、位相空間再構成法を用いて時系列データの固有次元を抽出する。
次に、$alpha$-stable L'evyの動作によって駆動されるSDEを探索し、時系列データをモデル化し、ニューラルネットワーク近似を用いて問題を解く。
論文 参考訳(メタデータ) (2021-11-25T16:49:01Z) - Consistency of mechanistic causal discovery in continuous-time using
Neural ODEs [85.7910042199734]
ダイナミカルシステムの研究において,連続時間における因果的発見を検討する。
本稿では,ニューラルネットワークを用いた因果探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-05-06T08:48:02Z) - Neural ODE Processes [64.10282200111983]
NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。
我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
論文 参考訳(メタデータ) (2021-03-23T09:32:06Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z) - Learning continuous-time PDEs from sparse data with graph neural
networks [10.259254824702555]
本稿では、メッセージパッシンググラフニューラルネットワークにより制御方程式をパラメータ化した動的システムの連続時間差分モデルを提案する。
モデルが非構造化グリッドで機能する能力、任意の時間ステップ、ノイズの多い観測を実演する。
提案手法は,PDEと最先端予測性能の第一次・高次PDEを含む,既知の物理系に対する既存手法と比較する。
論文 参考訳(メタデータ) (2020-06-16T07:15:40Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。