論文の概要: CARRNN: A Continuous Autoregressive Recurrent Neural Network for Deep
Representation Learning from Sporadic Temporal Data
- arxiv url: http://arxiv.org/abs/2104.03739v1
- Date: Thu, 8 Apr 2021 12:43:44 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-09 13:22:31.840800
- Title: CARRNN: A Continuous Autoregressive Recurrent Neural Network for Deep
Representation Learning from Sporadic Temporal Data
- Title(参考訳): CARRNN: 散発時間データから深部表現学習のための連続自己回帰リカレントニューラルネットワーク
- Authors: Mostafa Mehdipour Ghazi, Lauge S{\o}rensen, S\'ebastien Ourselin, Mads
Nielsen
- Abstract要約: 本稿では,散発データにおける複数の時間的特徴をモデル化するための新しい深層学習モデルを提案する。
提案モデルはCARRNNと呼ばれ、時間ラグによって変調されたニューラルネットワークを用いてエンドツーエンドにトレーニング可能な一般化された離散時間自己回帰モデルを使用する。
アルツハイマー病進行モデルおよび集中治療単位(ICU)死亡率予測のためのデータを用いて,多変量時系列回帰タスクに適用した。
- 参考スコア(独自算出の注目度): 1.8352113484137622
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning temporal patterns from multivariate longitudinal data is challenging
especially in cases when data is sporadic, as often seen in, e.g., healthcare
applications where the data can suffer from irregularity and asynchronicity as
the time between consecutive data points can vary across features and samples,
hindering the application of existing deep learning models that are constructed
for complete, evenly spaced data with fixed sequence lengths. In this paper, a
novel deep learning-based model is developed for modeling multiple temporal
features in sporadic data using an integrated deep learning architecture based
on a recurrent neural network (RNN) unit and a continuous-time autoregressive
(CAR) model. The proposed model, called CARRNN, uses a generalized
discrete-time autoregressive model that is trainable end-to-end using neural
networks modulated by time lags to describe the changes caused by the
irregularity and asynchronicity. It is applied to multivariate time-series
regression tasks using data provided for Alzheimer's disease progression
modeling and intensive care unit (ICU) mortality rate prediction, where the
proposed model based on a gated recurrent unit (GRU) achieves the lowest
prediction errors among the proposed RNN-based models and state-of-the-art
methods using GRUs and long short-term memory (LSTM) networks in their
architecture.
- Abstract(参考訳): 多変量長手データからの時間的パターンの学習は、特にデータが散発的である場合、例えば、データが不規則性や非同期性に悩まされる可能性がある医療アプリケーションにおいて、連続するデータポイント間の時間は特徴やサンプルによって異なるため、完了のために構築された既存のディープラーニングモデルの適用を妨げる。
本稿では,Recurrent Neural Network (RNN) とContinuous-time Autoregressive (CAR) モデルに基づく統合ディープラーニングアーキテクチャを用いて,散発データにおける複数の時間的特徴をモデル化するための新しいディープラーニングモデルを開発した。
提案モデルはCARRNNと呼ばれ、時間ラグによって変調されたニューラルネットワークを用いてトレーニング可能な一般化離散時間自己回帰モデルを用いて、不規則性と非同期性に起因する変化を記述する。
アルツハイマー病の進行モデルおよび集中治療ユニット(icu)の死亡率予測に提供されたデータを用いて,多変量時系列回帰タスクに適用し,gru(gated recurrent unit)に基づく提案モデルでは,提案するrnnモデルとgresとlstm(long short-term memory)ネットワークを用いた最先端の予測誤差が最小となる。
関連論文リスト
- Reduced-order modeling of unsteady fluid flow using neural network ensembles [0.0]
本稿では,一般的なアンサンブル学習手法であるバッグングを用いて,完全なデータ駆動型リダクションモデルフレームワークを開発することを提案する。
このフレームワークはCAEを用いて全階モデルとLSTMアンサンブルの空間的再構成を行い、時系列予測を行う。
その結果,提案フレームワークはエラーの伝播を効果的に低減し,未確認点における潜伏変数の時系列予測をより正確に行うことができることがわかった。
論文 参考訳(メタデータ) (2024-02-08T03:02:59Z) - Delayed Memory Unit: Modelling Temporal Dependency Through Delay Gate [16.4160685571157]
リカレントニューラルネットワーク(RNN)は、時間的依存をモデル化する能力で広く認識されている。
本稿では、ゲートRNNのための新しい遅延メモリユニット(DMU)を提案する。
DMUは遅延線構造と遅延ゲートをバニラRNNに組み込み、時間的相互作用を高め、時間的信用割り当てを容易にする。
論文 参考訳(メタデータ) (2023-10-23T14:29:48Z) - Neural Differential Recurrent Neural Network with Adaptive Time Steps [11.999568208578799]
隠れ状態の時間的発達を表すためにニューラルODEを用いるRNN-ODE-Adapと呼ばれるRNNベースのモデルを提案する。
我々は、データの変化の急激さに基づいて時間ステップを適応的に選択し、「スパイクのような」時系列に対してより効率的にモデルを訓練する。
論文 参考訳(メタデータ) (2023-06-02T16:46:47Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - Brain-Inspired Spiking Neural Network for Online Unsupervised Time
Series Prediction [13.521272923545409]
連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。
CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。
提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-04-10T16:18:37Z) - Online Evolutionary Neural Architecture Search for Multivariate
Non-Stationary Time Series Forecasting [72.89994745876086]
本研究は、オンラインニューロ進化に基づくニューラルアーキテクチャサーチ(ONE-NAS)アルゴリズムを提案する。
ONE-NASは、オンライン予測タスクのためにリカレントニューラルネットワーク(RNN)を自動設計し、動的にトレーニングする新しいニューラルネットワーク探索手法である。
その結果、ONE-NASは従来の統計時系列予測法よりも優れていた。
論文 参考訳(メタデータ) (2023-02-20T22:25:47Z) - Gated Recurrent Neural Networks with Weighted Time-Delay Feedback [59.125047512495456]
重み付き時間遅延フィードバック機構を備えた新しいゲートリカレントユニット(GRU)を導入する。
我々は、$tau$-GRUが、最先端のリカレントユニットやゲート型リカレントアーキテクチャよりも早く収束し、より一般化できることを示します。
論文 参考訳(メタデータ) (2022-12-01T02:26:34Z) - A data filling methodology for time series based on CNN and (Bi)LSTM
neural networks [0.0]
イタリア・ボルツァーノの監視アパートから得られた時系列データギャップを埋めるための2つのDeep Learningモデルを開発した。
提案手法は, 変動するデータの性質を把握し, 対象時系列の再構成に優れた精度を示す。
論文 参考訳(メタデータ) (2022-04-21T09:40:30Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳(メタデータ) (2022-04-18T23:42:18Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Deep Cellular Recurrent Network for Efficient Analysis of Time-Series
Data with Spatial Information [52.635997570873194]
本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。
提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
論文 参考訳(メタデータ) (2021-01-12T20:08:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。