論文の概要: Neural Controlled Differential Equations for Online Prediction Tasks

• arxiv url: http://arxiv.org/abs/2106.11028v1
• Date: Mon, 21 Jun 2021 12:23:45 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-22 22:09:29.742446
• Title: Neural Controlled Differential Equations for Online Prediction Tasks
• Title（参考訳）: オンライン予測課題に対するニューラル制御微分方程式
• Authors: James Morrill, Patrick Kidger, Lingyi Yang, Terry Lyons
• Abstract要約: 我々は,ニューラルCDEは,リアルタイムに予測を行う必要のあるテキストトンライン予測タスクには適さないことを示した。 ここでは、有界性や特異性など、ニューラルCDEのスキームが満たすべきいくつかの理論的条件を特定する。 第2に、これらの条件に対処する新しいスキームの導入を動機付け、特に測定可能性を提供する。 第3に、MIMIC-IV医療データベースからの3つの連続モニタリングタスクに対して、オンラインのNeural CDEモデルを実証的にベンチマークする。
• 参考スコア（独自算出の注目度）: 4.6453787256723365
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural controlled differential equations (Neural CDEs) are a continuous-time extension of recurrent neural networks (RNNs), achieving state-of-the-art (SOTA) performance at modelling functions of irregular time series. In order to interpret discrete data in continuous time, current implementations rely on non-causal interpolations of the data. This is fine when the whole time series is observed in advance, but means that Neural CDEs are not suitable for use in \textit{online prediction tasks}, where predictions need to be made in real-time: a major use case for recurrent networks. Here, we show how this limitation may be rectified. First, we identify several theoretical conditions that interpolation schemes for Neural CDEs should satisfy, such as boundedness and uniqueness. Second, we use these to motivate the introduction of new schemes that address these conditions, offering in particular measurability (for online prediction), and smoothness (for speed). Third, we empirically benchmark our online Neural CDE model on three continuous monitoring tasks from the MIMIC-IV medical database: we demonstrate improved performance on all tasks against ODE benchmarks, and on two of the three tasks against SOTA non-ODE benchmarks.
• Abstract（参考訳）: ニューラル制御微分方程式(Neural Control differential equations、Neural CDEs)は、リカレントニューラルネットワーク(RNN)の連続的拡張であり、不規則時系列のモデリング機能において最先端(SOTA)性能を達成する。 離散データを連続的に解釈するために、現在の実装はデータの非因果補間に依存している。 これは、全時系列が事前に観測されている場合は問題ないが、ニューラルネットワークcdは、リアルタイムに予測を行う必要がある \textit{online prediction tasks} での使用には適していないことを意味する。 ここでは,この制限を正す方法を示す。 まず,神経cdの補間スキームが有界性や一意性など,いくつかの理論的条件を明らかにする。 第二に、これらの条件に対処する新しいスキームの導入を動機付け、特に測定可能性(オンライン予測)と滑らかさ(速度)を提供する。 第三に、MIMIC-IVの医療データベースからの3つの連続監視タスクに対して、オンラインのNeural CDEモデルを実証的にベンチマークします。

関連論文リスト

• Trajectory Flow Matching with Applications to Clinical Time Series Modeling [77.58277281319253]
  Trajectory Flow Matching (TFM) は、シミュレーションのない方法でニューラルSDEを訓練し、ダイナミックスを通してバックプロパゲーションをバイパスする。 絶対的性能と不確実性予測の観点から,3つの臨床時系列データセットの性能向上を実証した。
  論文  参考訳（メタデータ） (2024-10-28T15:54:50Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• Networked Time Series Imputation via Position-aware Graph Enhanced Variational Autoencoders [31.953958053709805]
  我々は,変分オートエンコーダ(VAE)を利用して,ノード時系列の特徴とグラフ構造の両方に欠落する値を予測するPoGeVonという新しいモデルを設計する。 実験の結果,ベースライン上でのモデルの有効性が示された。
  論文  参考訳（メタデータ） (2023-05-29T21:11:34Z)
• Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit [56.801856519460465]
  連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。 重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
  論文  参考訳（メタデータ） (2023-04-14T09:39:06Z)
• Brain-Inspired Spiking Neural Network for Online Unsupervised Time Series Prediction [13.521272923545409]
  連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。 CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。 提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-04-10T16:18:37Z)
• Uncovering the Missing Pattern: Unified Framework Towards Trajectory Imputation and Prediction [60.60223171143206]
  軌道予測は、観測されたシーケンスから実体運動や人間の行動を理解する上で重要な作業である。 現在の方法では、観測されたシーケンスが完了したと仮定し、欠落した値の可能性を無視する。 本稿では,グラフに基づく条件変動リカレントニューラルネットワーク (GC-VRNN) の統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-28T14:27:27Z)
• STING: Self-attention based Time-series Imputation Networks using GAN [4.052758394413726]
  GANを用いたSING(Self-attention based Time-Series Imputation Networks)を提案する。 我々は、時系列の潜在表現を学習するために、生成的対向ネットワークと双方向リカレントニューラルネットワークを利用する。 3つの実世界のデータセットによる実験結果から、STINGは既存の最先端手法よりも計算精度が優れていることが示された。
  論文  参考訳（メタデータ） (2022-09-22T06:06:56Z)
• Neural ODE Processes [64.10282200111983]
  NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。 我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
  論文  参考訳（メタデータ） (2021-03-23T09:32:06Z)
• Liquid Time-constant Networks [117.57116214802504]
  本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。 暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。 これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
  論文  参考訳（メタデータ） (2020-06-08T09:53:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。