論文の概要: Online Evolutionary Neural Architecture Search for Multivariate
Non-Stationary Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2302.10347v1
- Date: Mon, 20 Feb 2023 22:25:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-22 17:03:08.179645
- Title: Online Evolutionary Neural Architecture Search for Multivariate
Non-Stationary Time Series Forecasting
- Title(参考訳): 多変量非定常時系列予測のためのオンライン進化的ニューラルネットワーク探索
- Authors: Zimeng Lyu, Alexander Ororbia, Travis Desell
- Abstract要約: 本研究は、オンラインニューロ進化に基づくニューラルアーキテクチャサーチ(ONE-NAS)アルゴリズムを提案する。
ONE-NASは、オンライン予測タスクのためにリカレントニューラルネットワーク(RNN)を自動設計し、動的にトレーニングする新しいニューラルネットワーク探索手法である。
その結果、ONE-NASは従来の統計時系列予測法よりも優れていた。
- 参考スコア(独自算出の注目度): 72.89994745876086
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Time series forecasting (TSF) is one of the most important tasks in data
science given the fact that accurate time series (TS) predictive models play a
major role across a wide variety of domains including finance, transportation,
health care, and power systems. Real-world utilization of machine learning (ML)
typically involves (pre-)training models on collected, historical data and then
applying them to unseen data points. However, in real-world applications, time
series data streams are usually non-stationary and trained ML models usually,
over time, face the problem of data or concept drift.
To address this issue, models must be periodically retrained or redesigned,
which takes significant human and computational resources. Additionally,
historical data may not even exist to re-train or re-design model with. As a
result, it is highly desirable that models are designed and trained in an
online fashion. This work presents the Online NeuroEvolution-based Neural
Architecture Search (ONE-NAS) algorithm, which is a novel neural architecture
search method capable of automatically designing and dynamically training
recurrent neural networks (RNNs) for online forecasting tasks. Without any
pre-training, ONE-NAS utilizes populations of RNNs that are continuously
updated with new network structures and weights in response to new multivariate
input data. ONE-NAS is tested on real-world, large-scale multivariate wind
turbine data as well as the univariate Dow Jones Industrial Average (DJIA)
dataset. Results demonstrate that ONE-NAS outperforms traditional statistical
time series forecasting methods, including online linear regression, fixed long
short-term memory (LSTM) and gated recurrent unit (GRU) models trained online,
as well as state-of-the-art, online ARIMA strategies.
- Abstract(参考訳): 時系列予測(TSF)は、正確な時系列予測モデル(TS)が金融、交通、医療、電力システムなど幅広い領域で重要な役割を果たしているという事実から、データサイエンスにおいて最も重要なタスクの1つである。
機械学習(ML)の現実的な利用は、一般的に、収集された履歴データに基づいて(事前)トレーニングモデルを実行し、見当たらないデータポイントに適用する。
しかし、現実のアプリケーションでは、時系列データストリームは、通常、静的で訓練されたMLモデルであり、時間とともにデータやコンセプトドリフトの問題に直面します。
この問題に対処するためには、モデルを定期的に再訓練または再設計する必要がある。
さらに、過去のデータはモデルの再トレーニングや再設計には存在しません。
その結果、モデルがオンライン形式で設計され、訓練されることが非常に望ましい。
このアルゴリズムは、オンライン予測タスクのためにリカレントニューラルネットワーク(RNN)を自動設計し動的に訓練することのできる、新しいニューラルネットワーク探索手法である。
ONE-NASは事前トレーニングなしで、新しい多変量入力データに応答して、新しいネットワーク構造と重みを継続的に更新するRNNの人口を利用する。
ONE-NASは、DJIA(Dow Jones Industrial Average)データセットと同様に、実世界の大規模多変量風力タービンデータで試験される。
その結果、ONE-NASはオンライン線形回帰、固定長短期メモリ(LSTM)、ゲートリカレントユニット(GRU)モデル、そして最先端のオンラインARIMA戦略など、従来の統計時系列予測手法よりも優れていた。
関連論文リスト
- Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。
既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。
本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
論文 参考訳(メタデータ) (2024-11-24T04:56:45Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - Brain-Inspired Spiking Neural Network for Online Unsupervised Time
Series Prediction [13.521272923545409]
連続学習に基づく非教師付きリカレントスパイキングニューラルネットワークモデル(CLURSNN)を提案する。
CLURSNNは、ランダム遅延埋め込み(Random Delay Embedding)を使用して基盤となる動的システムを再構築することで、オンライン予測を行う。
提案手法は,進化するロレンツ63力学系を予測する際に,最先端のDNNモデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-04-10T16:18:37Z) - A data filling methodology for time series based on CNN and (Bi)LSTM
neural networks [0.0]
イタリア・ボルツァーノの監視アパートから得られた時系列データギャップを埋めるための2つのDeep Learningモデルを開発した。
提案手法は, 変動するデータの性質を把握し, 対象時系列の再構成に優れた精度を示す。
論文 参考訳(メタデータ) (2022-04-21T09:40:30Z) - An advanced spatio-temporal convolutional recurrent neural network for
storm surge predictions [73.4962254843935]
本研究では, 人工ニューラルネットワークモデルを用いて, 嵐の軌跡/規模/強度履歴に基づいて, 強風をエミュレートする能力について検討する。
本研究では, 人工嵐シミュレーションのデータベースを用いて, 強風を予測できるニューラルネットワークモデルを提案する。
論文 参考訳(メタデータ) (2022-04-18T23:42:18Z) - ONE-NAS: An Online NeuroEvolution based Neural Architecture Search for
Time Series Forecasting [3.3758186776249928]
この研究は、Online NeuroEvolution based Neural Architecture Search (ONE-NAS)アルゴリズムを提示する。
ONE-NASは、オンライン環境で新しいリカレントニューラルネットワーク(RNN)を自動設計し、訓練することのできる、最初のニューラルネットワーク検索アルゴリズムである。
従来の統計時系列予測よりも優れており、ナイーブ、移動平均、指数的平滑化などが挙げられる。
論文 参考訳(メタデータ) (2022-02-27T22:58:32Z) - Online learning of windmill time series using Long Short-term Cognitive
Networks [58.675240242609064]
風車農場で生成されたデータの量は、オンライン学習が従うべき最も有効な戦略となっている。
我々はLong Short-term Cognitive Networks (LSTCNs) を用いて、オンライン環境での風車時系列を予測する。
提案手法は,単純なRNN,長期記憶,Gated Recurrent Unit,Hidden Markov Modelに対して最も低い予測誤差を報告した。
論文 参考訳(メタデータ) (2021-07-01T13:13:24Z) - Rank-R FNN: A Tensor-Based Learning Model for High-Order Data
Classification [69.26747803963907]
Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。
まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。
Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
論文 参考訳(メタデータ) (2021-04-11T16:37:32Z) - CARRNN: A Continuous Autoregressive Recurrent Neural Network for Deep
Representation Learning from Sporadic Temporal Data [1.8352113484137622]
本稿では,散発データにおける複数の時間的特徴をモデル化するための新しい深層学習モデルを提案する。
提案モデルはCARRNNと呼ばれ、時間ラグによって変調されたニューラルネットワークを用いてエンドツーエンドにトレーニング可能な一般化された離散時間自己回帰モデルを使用する。
アルツハイマー病進行モデルおよび集中治療単位(ICU)死亡率予測のためのデータを用いて,多変量時系列回帰タスクに適用した。
論文 参考訳(メタデータ) (2021-04-08T12:43:44Z) - Industrial Forecasting with Exponentially Smoothed Recurrent Neural
Networks [0.0]
本稿では,産業応用における非定常力学系のモデル化に好適な指数的スムーズなリカレントニューラルネットワーク(RNN)のクラスを提案する。
指数スムーズなRNNの電力負荷、気象データ、株価予測への応用は、多段階時系列予測における隠れ状態の指数スムーズ化の有効性を強調している。
論文 参考訳(メタデータ) (2020-04-09T17:53:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。