論文の概要: Markovian RNN: An Adaptive Time Series Prediction Network with HMM-based
Switching for Nonstationary Environments
- arxiv url: http://arxiv.org/abs/2006.10119v1
- Date: Wed, 17 Jun 2020 19:38:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 19:51:22.800830
- Title: Markovian RNN: An Adaptive Time Series Prediction Network with HMM-based
Switching for Nonstationary Environments
- Title(参考訳): Markovian RNN:非定常環境に対するHMMスイッチングを用いた適応時系列予測ネットワーク
- Authors: Fatih Ilhan, Oguzhan Karaahmetoglu, Ismail Balaban and Suleyman Serdar
Kozat
- Abstract要約: 本稿では、マルコフ的な方法で内部構造を適応的に切り替え、与えられたデータの非定常特性をモデル化する新しいリカレントニューラルネットワーク(RNN)アーキテクチャを提案する。
我々のモデルであるMarkovian RNNは、レギュレーション遷移に隠れマルコフモデル(HMM)を使用し、各レギュレーションはリカレントセルの隠れ状態遷移を独立に制御する。
我々は,バニラRNNやマルコフスイッチングARIMAのような従来の手法と比較して,大幅な性能向上を示す。
- 参考スコア(独自算出の注目度): 11.716677452529114
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate nonlinear regression for nonstationary sequential data. In
most real-life applications such as business domains including finance, retail,
energy and economy, timeseries data exhibits nonstationarity due to the
temporally varying dynamics of the underlying system. We introduce a novel
recurrent neural network (RNN) architecture, which adaptively switches between
internal regimes in a Markovian way to model the nonstationary nature of the
given data. Our model, Markovian RNN employs a hidden Markov model (HMM) for
regime transitions, where each regime controls hidden state transitions of the
recurrent cell independently. We jointly optimize the whole network in an
end-to-end fashion. We demonstrate the significant performance gains compared
to vanilla RNN and conventional methods such as Markov Switching ARIMA through
an extensive set of experiments with synthetic and real-life datasets. We also
interpret the inferred parameters and regime belief values to analyze the
underlying dynamics of the given sequences.
- Abstract(参考訳): 非定常シーケンシャルデータの非線形回帰について検討する。
金融、小売、エネルギー、経済などのビジネスドメインのような現実のほとんどのアプリケーションでは、時系列データは、基盤システムの時間的変動により非定常性を示す。
本稿では、マルコフ的な方法で内部構造を適応的に切り替え、与えられたデータの非定常特性をモデル化する新しいリカレントニューラルネットワーク(RNN)アーキテクチャを提案する。
我々のモデルであるMarkovian RNNは、レギュレーション遷移に隠れマルコフモデル(HMM)を使用し、各レギュレーションはリカレントセルの隠れ状態遷移を独立に制御する。
エンドツーエンドでネットワーク全体を最適化します。
我々は,バニラRNNやマルコフスイッチングARIMAのような従来手法と比較して,合成および実生活データセットを用いた広範な実験により,大幅な性能向上を示す。
また、推定パラメータと状態信念値を解釈し、与えられたシーケンスの基盤となるダイナミクスを分析する。
関連論文リスト
- Self-Organizing Recurrent Stochastic Configuration Networks for Nonstationary Data Modelling [3.8719670789415925]
リカレント・コンフィグレーション・ネットワーク(Recurrent configuration network、RSCN)は、非線形力学のモデリングにおいて有望であることを示すランダム化モデルのクラスである。
本稿では,非定常データモデリングのためのネットワークの連続学習能力を高めるために,SORSCNと呼ばれる自己組織型RCCNを開発することを目的とする。
論文 参考訳(メタデータ) (2024-10-14T01:28:25Z) - Hybrid hidden Markov LSTM for short-term traffic flow prediction [0.0]
本稿では,交通データの相補的特徴を学習可能なハイブリッド隠れマルコフ-LSTMモデルを提案する。
その結果,従来の手法と比較して,ハイブリッドアーキテクチャを用いた場合の大幅な性能向上が示唆された。
論文 参考訳(メタデータ) (2023-07-11T00:56:44Z) - Brain-Inspired Spiking Neural Network for Online Unsupervised Time
Series Prediction [13.521272923545409]
連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。
CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。
提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-04-10T16:18:37Z) - Online Evolutionary Neural Architecture Search for Multivariate
Non-Stationary Time Series Forecasting [72.89994745876086]
本研究は、オンラインニューロ進化に基づくニューラルアーキテクチャサーチ(ONE-NAS)アルゴリズムを提案する。
ONE-NASは、オンライン予測タスクのためにリカレントニューラルネットワーク(RNN)を自動設計し、動的にトレーニングする新しいニューラルネットワーク探索手法である。
その結果、ONE-NASは従来の統計時系列予測法よりも優れていた。
論文 参考訳(メタデータ) (2023-02-20T22:25:47Z) - Task-Synchronized Recurrent Neural Networks [0.0]
リカレントニューラルネットワーク(RNN)は、伝統的に事実を無視し、時間差を追加入力として与えたり、データを再サンプリングしたりする。
我々は、データやタスクの時間と一致するように、RNNを効果的に再サンプリングするエレガントな代替手法を提案する。
我々は、我々のモデルがデータの時間的非均一性を効果的に補償できることを実証的に確認し、データ再サンプリングや古典的RNN手法、代替的なRNNモデルと比較することを実証した。
論文 参考訳(メタデータ) (2022-04-11T15:27:40Z) - Regularized Sequential Latent Variable Models with Adversarial Neural
Networks [33.74611654607262]
逐次データの変動をモデル化するために,RNN で高レベル潜時確率変数を使用する方法を提案する。
変動RNNモデルの学習に逆法を用いる可能性を探る。
論文 参考訳(メタデータ) (2021-08-10T08:05:14Z) - PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive
Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。
本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文 参考訳(メタデータ) (2021-03-17T08:28:30Z) - Multi-Tones' Phase Coding (MTPC) of Interaural Time Difference by
Spiking Neural Network [68.43026108936029]
雑音の多い実環境下での正確な音像定位のための純粋スパイクニューラルネットワーク(SNN)に基づく計算モデルを提案する。
このアルゴリズムを,マイクロホンアレイを用いたリアルタイムロボットシステムに実装する。
実験の結果, 平均誤差方位は13度であり, 音源定位に対する他の生物学的に妥当なニューロモルフィックアプローチの精度を上回っていることがわかった。
論文 参考訳(メタデータ) (2020-07-07T08:22:56Z) - Lipschitz Recurrent Neural Networks [100.72827570987992]
我々のリプシッツ再帰ユニットは、他の連続時間RNNと比較して、入力やパラメータの摂動に対してより堅牢であることを示す。
実験により,Lipschitz RNNは,ベンチマークタスクにおいて,既存のリカレントユニットよりも優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2020-06-22T08:44:52Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z) - Stochastic Graph Neural Networks [123.39024384275054]
グラフニューラルネットワーク(GNN)は、分散エージェント調整、制御、計画に応用したグラフデータの非線形表現をモデル化する。
現在のGNNアーキテクチャは理想的なシナリオを前提として,環境やヒューマンファクタ,あるいは外部攻撃によるリンク変動を無視している。
これらの状況において、GNNは、トポロジカルなランダム性を考慮していない場合、その分散タスクに対処することができない。
論文 参考訳(メタデータ) (2020-06-04T08:00:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。