論文の概要: GAS-Norm: Score-Driven Adaptive Normalization for Non-Stationary Time Series Forecasting in Deep Learning
- arxiv url: http://arxiv.org/abs/2410.03935v1
- Date: Fri, 4 Oct 2024 21:26:12 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-02 15:21:16.077416
- Title: GAS-Norm: Score-Driven Adaptive Normalization for Non-Stationary Time Series Forecasting in Deep Learning
- Title（参考訳）: GAS-Norm:ディープラーニングにおける非定常時系列予測のためのスコア駆動適応正規化
- Authors: Edoardo Urettini, Daniele Atzeni, Reshawn J. Ramjattan, Antonio Carta,
- Abstract要約: 入力データの平均値と分散値の変化がディープニューラルネットワーク(DNN)の予測能力をいかに破壊するかを示す。
本稿では,GAS(Generalized Autoregressive Score)モデルとDeep Neural Networkを組み合わせた適応時系列正規化と予測の新しい手法であるGAS-Normを紹介する。
その結果,GAS-Normと組み合わせた場合,25項目中21項目の予測モデルでは,他の正規化手法と比較して精度が向上した。
- 参考スコア（独自算出の注目度）: 1.642449952957482
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite their popularity, deep neural networks (DNNs) applied to time series forecasting often fail to beat simpler statistical models. One of the main causes of this suboptimal performance is the data non-stationarity present in many processes. In particular, changes in the mean and variance of the input data can disrupt the predictive capability of a DNN. In this paper, we first show how DNN forecasting models fail in simple non-stationary settings. We then introduce GAS-Norm, a novel methodology for adaptive time series normalization and forecasting based on the combination of a Generalized Autoregressive Score (GAS) model and a Deep Neural Network. The GAS approach encompasses a score-driven family of models that estimate the mean and variance at each new observation, providing updated statistics to normalize the input data of the deep model. The output of the DNN is eventually denormalized using the statistics forecasted by the GAS model, resulting in a hybrid approach that leverages the strengths of both statistical modeling and deep learning. The adaptive normalization improves the performance of the model in non-stationary settings. The proposed approach is model-agnostic and can be applied to any DNN forecasting model. To empirically validate our proposal, we first compare GAS-Norm with other state-of-the-art normalization methods. We then combine it with state-of-the-art DNN forecasting models and test them on real-world datasets from the Monash open-access forecasting repository. Results show that deep forecasting models improve their performance in 21 out of 25 settings when combined with GAS-Norm compared to other normalization methods.
- Abstract（参考訳）: その人気にもかかわらず、時系列予測に適用されるディープニューラルネットワーク(DNN)は、単純な統計モデルに勝てないことが多い。
この準最適性能の主な原因の1つは、多くのプロセスに存在するデータ非定常性である。
特に、入力データの平均と分散の変化は、DNNの予測能力を損なう可能性がある。
本稿では,DNN予測モデルが静的でない単純な設定でフェールするかを最初に示す。
次に,GASモデルとディープニューラルネットワークを組み合わせた適応時系列正規化と予測の新しい手法であるGAS-Normを紹介する。
GASアプローチは、スコア駆動型のモデルのファミリーを含み、各新しい観測における平均と分散を推定し、ディープモデルの入力データを正規化するための最新の統計を提供する。
最終的に、DNNの出力はGASモデルによって予測される統計を用いて非正規化され、その結果、統計モデリングとディープラーニングの両方の長所を利用するハイブリッドアプローチがもたらされる。
適応正規化は、非定常設定におけるモデルの性能を改善する。
提案手法はモデルに依存しず,任意のDNN予測モデルに適用可能である。
我々の提案を実証的に検証するために、まずGAS-Normと他の最先端の正規化手法を比較した。
その後、最先端のDNN予測モデルと組み合わせて、Monashオープンアクセス予測レポジトリの実際のデータセットでテストします。
その結果,GAS-Normと組み合わせた場合,25項目中21項目の予測モデルでは,他の正規化手法と比較して精度が向上した。
関連論文リスト
- On conditional diffusion models for PDE simulations [53.01911265639582]
スパース観測の予測と同化のためのスコアベース拡散モデルについて検討した。
本稿では,予測性能を大幅に向上させる自動回帰サンプリング手法を提案する。
また,条件付きスコアベースモデルに対する新たなトレーニング戦略を提案する。
論文 参考訳（メタデータ） (2024-10-21T18:31:04Z) - Deep Limit Model-free Prediction in Regression [0.0]
本稿では,DNN(Deep Neural Network)に基づくモデルフリーアプローチにより,一般的な回帰条件下での点予測と予測間隔を実現する。
提案手法は,特に最適点予測において,他のDNN法に比べて安定かつ正確である。
論文 参考訳（メタデータ） (2024-08-18T16:37:53Z) - Conditional Shift-Robust Conformal Prediction for Graph Neural Network [0.0]
グラフニューラルネットワーク(GNN)は、グラフ構造化データの結果を予測する強力なツールとして登場した。
有効性にもかかわらず、GNNは堅牢な不確実性推定を提供する能力に制限がある。
本稿では,GNNに対する条件シフトロバスト(CondSR)の共形予測を提案する。
論文 参考訳（メタデータ） (2024-05-20T11:47:31Z) - SwinVRNN: A Data-Driven Ensemble Forecasting Model via Learned
Distribution Perturbation [16.540748935603723]
本研究では,SwinRNN予測器と摂動モジュールを組み合わせた天気予報モデルであるSwinVRNNを提案する。
SwinVRNNはECMWF統合予測システム(IFS)を2m温度と6時間総降水量で最大5日間のリードタイムで上回っている。
論文 参考訳（メタデータ） (2022-05-26T05:11:58Z) - Probabilistic AutoRegressive Neural Networks for Accurate Long-range
Forecasting [6.295157260756792]
確率的自己回帰ニューラルネットワーク(PARNN)について紹介する。
PARNNは、非定常性、非線形性、非調和性、長距離依存、カオスパターンを示す複雑な時系列データを扱うことができる。
本研究では,Transformers,NBeats,DeepARなどの標準統計モデル,機械学習モデル,ディープラーニングモデルに対して,PARNNの性能を評価する。
論文 参考訳（メタデータ） (2022-04-01T17:57:36Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳（メタデータ） (2021-06-01T19:19:49Z) - Rank-R FNN: A Tensor-Based Learning Model for High-Order Data
Classification [69.26747803963907]
Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。
まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。
Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
論文 参考訳（メタデータ） (2021-04-11T16:37:32Z) - Improving predictions of Bayesian neural nets via local linearization [79.21517734364093]
ガウス・ニュートン近似は基礎となるベイズニューラルネットワーク(BNN)の局所線形化として理解されるべきである。
この線形化モデルを後部推論に使用するので、元のモデルではなく、この修正モデルを使用することも予測すべきである。
この修正された予測を"GLM predictive"と呼び、Laplace近似の共通不適合問題を効果的に解決することを示す。
論文 参考訳（メタデータ） (2020-08-19T12:35:55Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Bayesian Graph Neural Networks with Adaptive Connection Sampling [62.51689735630133]
グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。
提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
論文 参考訳（メタデータ） (2020-06-07T07:06:35Z) - Spatiotemporal Adaptive Neural Network for Long-term Forecasting of
Financial Time Series [0.2793095554369281]
本稿では,ディープニューラルネットワーク(DNN)が時系列予測(TS)の同時予測に利用できるかどうかを検討する。
動的因子グラフ(DFG)を用いて多変量自己回帰モデルを構築する。
ACTMでは、TSモデルの自己回帰順序を時間とともに変化させ、より大きな確率分布をモデル化することができる。
論文 参考訳（メタデータ） (2020-03-27T00:53:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。