論文の概要: Neural Controlled Differential Equations for Irregular Time Series

• arxiv url: http://arxiv.org/abs/2005.08926v2
• Date: Thu, 5 Nov 2020 17:45:39 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-01 23:04:42.051819
• Title: Neural Controlled Differential Equations for Irregular Time Series
• Title（参考訳）: 不規則時系列に対する神経制御微分方程式
• Authors: Patrick Kidger, James Morrill, James Foster, Terry Lyons
• Abstract要約: 通常の微分方程式はその初期条件によって決定され、その後の観測に基づいて軌道を調整するメカニズムは存在しない。 ここでは、Emph制御微分方程式のよく理解された数学を通して、これをどのように解決するかを示す。 実験により,本モデルが類似モデル (ODE や RNN をベースとした) に対して, 種々のデータセットに対する実験的検討において, 最先端の性能を実現することを示す。
• 参考スコア（独自算出の注目度）: 17.338923885534197
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural ordinary differential equations are an attractive option for modelling temporal dynamics. However, a fundamental issue is that the solution to an ordinary differential equation is determined by its initial condition, and there is no mechanism for adjusting the trajectory based on subsequent observations. Here, we demonstrate how this may be resolved through the well-understood mathematics of \emph{controlled differential equations}. The resulting \emph{neural controlled differential equation} model is directly applicable to the general setting of partially-observed irregularly-sampled multivariate time series, and (unlike previous work on this problem) it may utilise memory-efficient adjoint-based backpropagation even across observations. We demonstrate that our model achieves state-of-the-art performance against similar (ODE or RNN based) models in empirical studies on a range of datasets. Finally we provide theoretical results demonstrating universal approximation, and that our model subsumes alternative ODE models.
• Abstract（参考訳）: ニューラル常微分方程式は時間力学をモデル化するための魅力的な選択肢である。 しかし、基本的な問題は、通常の微分方程式の解がその初期条件によって決定され、その後の観測に基づいて軌道を調整するメカニズムが存在しないことである。 ここでは、この問題を 'emph{制御微分方程式' のよく理解された数学によってどのように解決するかを示す。 結果として得られる \emph{neural controlled differential equation} モデルは、部分観測された不規則な多変量時系列の一般的な設定に直接適用でき、(この問題に対する以前の研究とは異なり)観測を通してもメモリ効率の良い随伴ベースのバックプロパゲーションを利用することができる。 本モデルは,様々なデータセットに関する実証研究において,類似モデル(odeまたはrnnベース)に対して最先端の性能を実現することを実証する。 最後に、普遍近似の理論的結果を提供し、我々のモデルは代替ODEモデルを仮定する。

関連論文リスト

• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。 本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Monotonic Neural Ordinary Differential Equation: Time-series Forecasting for Cumulative Data [9.03818193356305]
  ニューラル常微分方程式の枠組みの中で, 単調ニューラル正規微分方程式 (MODE) と呼ばれる原理的アプローチを提案する。 MODEを利用することで、実用的な累積データにおける単調性と不規則性を効果的に捉え、表現することができる。 MODEは, 累積データにおける単調性と不規則性の両方を扱う能力を示し, 最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2023-09-23T18:40:10Z)
• Predicting Ordinary Differential Equations with Transformers [65.07437364102931]
  単一溶液軌道の不規則サンプリングおよび雑音観測から,スカラー常微分方程式(ODE)を記号形式で復元するトランスフォーマーに基づくシーケンス・ツー・シーケンス・モデルを開発した。 提案手法は, 1回に一度, ODE の大規模な事前訓練を行った後, モデルのいくつかの前方通過において, 新たな観測解の法則を推測することができる。
  論文  参考訳（メタデータ） (2023-07-24T08:46:12Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Discovering ordinary differential equations that govern time-series [65.07437364102931]
  本研究では, 1つの観測解の時系列データから, スカラー自律常微分方程式(ODE)を記号形式で復元するトランスフォーマーに基づくシーケンス・ツー・シーケンス・モデルを提案する。 提案手法は, 1回に一度, ODE の大規模な事前訓練を行った後, モデルのいくつかの前方通過において, 新たに観測された解の法則を推測することができる。
  論文  参考訳（メタデータ） (2022-11-05T07:07:58Z)
• Neural Laplace: Learning diverse classes of differential equations in the Laplace domain [86.52703093858631]
  本稿では,これらすべてを含む多種多様な微分方程式(DE)を学習するための統一的な枠組みを提案する。 時間領域の力学をモデル化する代わりに、ラプラス領域でモデル化する。 The experiment, Neural Laplace shows excellent performance in modelling and extrapolating the trajectories of various class of DEs。
  論文  参考訳（メタデータ） (2022-06-10T02:14:59Z)
• Physics Informed RNN-DCT Networks for Time-Dependent Partial Differential Equations [62.81701992551728]
  時間依存偏微分方程式を解くための物理インフォームド・フレームワークを提案する。 我々のモデルは離散コサイン変換を用いて空間的および反復的なニューラルネットワークを符号化する。 ナヴィエ・ストークス方程式に対するテイラー・グリーン渦解の実験結果を示す。
  論文  参考訳（メタデータ） (2022-02-24T20:46:52Z)
• Feature Engineering with Regularity Structures [4.082216579462797]
  機械学習タスクの特徴として,正則構造理論からのモデルの利用について検討する。 本研究では、時空信号に付随するモデル特徴ベクトルの柔軟な定義と、これらの特徴を線形回帰と組み合わせる方法を示す2つのアルゴリズムを提供する。 我々はこれらのアルゴリズムを、与えられた強制と境界データを用いてPDEの解を学ぶために設計されたいくつかの数値実験に適用する。
  論文  参考訳（メタデータ） (2021-08-12T17:53:47Z)
• A Probabilistic State Space Model for Joint Inference from Differential Equations and Data [23.449725313605835]
  ベイズフィルタを用いて解過程を直接句する常微分方程式 (odes) の解法の新しいクラスを示す。 その後、拡張カルマンフィルタの単一の線形複雑化パスにおいて、潜力とODE溶液のベイズ推定を近似することができるようになる。 本研究では,covid-19流行データに基づく非パラメトリックsirdモデルを訓練することにより,アルゴリズムの表現力と性能を示す。
  論文  参考訳（メタデータ） (2021-03-18T10:36:09Z)
• Stochastic Differential Equations with Variational Wishart Diffusions [18.590352916158093]
  回帰タスクと連続時間力学モデリングの両方に対して微分方程式を推論する非パラメトリックな方法を提案する。 この研究は微分方程式の一部(拡散とも呼ばれる)に重点を置いており、ウィッシュアート過程を用いてモデル化している。
  論文  参考訳（メタデータ） (2020-06-26T10:21:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。