論文の概要: Neural ODE Processes

• arxiv url: http://arxiv.org/abs/2103.12413v1
• Date: Tue, 23 Mar 2021 09:32:06 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-24 13:48:07.181149
• Title: Neural ODE Processes
• Title（参考訳）: ニューラルODEプロセス
• Authors: Alexander Norcliffe, Cristian Bodnar, Ben Day, Jacob Moss, Pietro Li\`o
• Abstract要約: NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。 我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
• 参考スコア（独自算出の注目度）: 64.10282200111983
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural Ordinary Differential Equations (NODEs) use a neural network to model the instantaneous rate of change in the state of a system. However, despite their apparent suitability for dynamics-governed time-series, NODEs present a few disadvantages. First, they are unable to adapt to incoming data-points, a fundamental requirement for real-time applications imposed by the natural direction of time. Second, time-series are often composed of a sparse set of measurements that could be explained by many possible underlying dynamics. NODEs do not capture this uncertainty. In contrast, Neural Processes (NPs) are a family of models providing uncertainty estimation and fast data-adaptation, but lack an explicit treatment of the flow of time. To address these problems, we introduce Neural ODE Processes (NDPs), a new class of stochastic processes determined by a distribution over Neural ODEs. By maintaining an adaptive data-dependent distribution over the underlying ODE, we show that our model can successfully capture the dynamics of low-dimensional systems from just a few data-points. At the same time, we demonstrate that NDPs scale up to challenging high-dimensional time-series with unknown latent dynamics such as rotating MNIST digits.
• Abstract（参考訳）: ニューラル正規微分方程式 (Neural Ordinary Differential Equations, NODE) は、システムの状態の即時変化率をモデル化するためにニューラルネットワークを使用する。 しかしながら、動的にグラデーションされた時系列に対して明らかな適合性にもかかわらず、NODEはいくつかの欠点を提示する。 まず、自然の方向によって課されるリアルタイムアプリケーションの基本要件である、入ってくるデータポイントに適応できない。 第二に、時系列は多くの場合、多くの考えられる力学によって説明できる、ばらばらな測定値からなる。 ノードはこの不確かさを捉えない。 対照的に、ニューラル・プロセス(英語版)(nps)は不確実性推定と高速なデータ適応を提供するモデル群であるが、時間の流れを明示的に処理しない。 これらの問題に対処するために、ニューラルODE上の分布によって決定される新しい確率過程であるNeural ODE Processs (NDP)を導入する。 基礎となる ode 上の適応的データ依存分布を維持することで, 少数のデータポイントから低次元システムのダイナミクスをうまく捉えることができることを示す。 同時に、NDPは、回転するMNIST桁などの未知の潜在ダイナミクスを持つ高次元時系列にスケールアップすることを示した。

関連論文リスト

• Individualized Dosing Dynamics via Neural Eigen Decomposition [51.62933814971523]
  ニューラル固有微分方程式アルゴリズム(NESDE)を導入する。 NESDEは個別化モデリング、新しい治療ポリシーへの調整可能な一般化、高速で連続的でクローズドな予測を提供する。 本研究は, 総合的・現実的な医療問題におけるNESDEの堅牢性を実証し, 学習力学を用いて, 模擬医療体育環境の公開を行う。
  論文  参考訳（メタデータ） (2023-06-24T17:01:51Z)
• Neural Differential Recurrent Neural Network with Adaptive Time Steps [11.999568208578799]
  隠れ状態の時間的発達を表すためにニューラルODEを用いるRNN-ODE-Adapと呼ばれるRNNベースのモデルを提案する。 我々は、データの変化の急激さに基づいて時間ステップを適応的に選択し、「スパイクのような」時系列に対してより効率的にモデルを訓練する。
  論文  参考訳（メタデータ） (2023-06-02T16:46:47Z)
• Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit [56.801856519460465]
  連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。 重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
  論文  参考訳（メタデータ） (2023-04-14T09:39:06Z)
• Neural Flows: Efficient Alternative to Neural ODEs [8.01886971335823]
  本稿では,ORのフローである解曲線を直接ニューラルネットワークでモデル化する手法を提案する。 これにより、ニューラルネットワークのモデリング能力を維持しながら、高価な数値解法の必要性はすぐに解消される。
  論文  参考訳（メタデータ） (2021-10-25T15:24:45Z)
• Characterizing possible failure modes in physics-informed neural networks [55.83255669840384]
  科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。 既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。 これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
  論文  参考訳（メタデータ） (2021-09-02T16:06:45Z)
• Piecewise-constant Neural ODEs [41.116259317376475]
  我々はこれらの問題を緩和するためにニューラルODEに一括的に近似する。 我々のモデルは、Euler統合によって正確に統合することができ、対応するRNNやODE-RNNモデルよりも3～20倍少ないステップで自己回帰サンプルを生成することができる。
  論文  参考訳（メタデータ） (2021-06-11T21:46:55Z)
• Learning Continuous-Time Dynamics by Stochastic Differential Networks [32.63114111531396]
  変動微分ネットワーク(VSDN)という,フレキシブルな連続時間リカレントニューラルネットワークを提案する。 VSDNは神経微分方程式(SDE)による散発時間系列の複雑なダイナミクスを埋め込む VSDNは最先端の継続的ディープラーニングモデルより優れており、散発時系列の予測やタスクにおいて優れた性能を発揮する。
  論文  参考訳（メタデータ） (2020-06-11T01:40:34Z)
• Liquid Time-constant Networks [117.57116214802504]
  本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。 暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。 これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
  論文  参考訳（メタデータ） (2020-06-08T09:53:35Z)
• Time Dependence in Non-Autonomous Neural ODEs [74.78386661760662]
  時変重みを持つニューラルODEの新しいファミリーを提案する。 我々は、速度と表現能力の両面で、従来のニューラルODEの変形よりも優れていた。
  論文  参考訳（メタデータ） (2020-05-05T01:41:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。