論文の概要: WaveBound: Dynamic Error Bounds for Stable Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2210.14303v2
- Date: Sun, 28 May 2023 09:55:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-31 03:13:53.567325
- Title: WaveBound: Dynamic Error Bounds for Stable Time Series Forecasting
- Title(参考訳): wavebound: 安定時系列予測のための動的エラー境界
- Authors: Youngin Cho, Daejin Kim, Dongmin Kim, Mohammad Azam Khan, Jaegul Choo
- Abstract要約: 時系列予測は、現実の応用において高い実用性のために重要な課題となっている。
最近のディープラーニングベースのアプローチは、時系列予測において顕著な成功を収めている。
深層ネットワークはいまだに不安定なトレーニングと過度な適合に悩まされている。
- 参考スコア(独自算出の注目度): 30.692056599222926
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series forecasting has become a critical task due to its high
practicality in real-world applications such as traffic, energy consumption,
economics and finance, and disease analysis. Recent deep-learning-based
approaches have shown remarkable success in time series forecasting.
Nonetheless, due to the dynamics of time series data, deep networks still
suffer from unstable training and overfitting. Inconsistent patterns appearing
in real-world data lead the model to be biased to a particular pattern, thus
limiting the generalization. In this work, we introduce the dynamic error
bounds on training loss to address the overfitting issue in time series
forecasting. Consequently, we propose a regularization method called WaveBound
which estimates the adequate error bounds of training loss for each time step
and feature at each iteration. By allowing the model to focus less on
unpredictable data, WaveBound stabilizes the training process, thus
significantly improving generalization. With the extensive experiments, we show
that WaveBound consistently improves upon the existing models in large margins,
including the state-of-the-art model.
- Abstract(参考訳): 時系列予測は、交通、エネルギー消費、経済と財政、疾病分析といった現実の応用において高い実用性のために重要な課題となっている。
最近のディープラーニングベースのアプローチは、時系列予測で顕著な成功を示している。
それでも、時系列データのダイナミクスのため、ディープネットワークは不安定なトレーニングと過度な適合に悩まされている。
実世界のデータに現れる一貫性のないパターンは、モデルを特定のパターンにバイアスし、一般化を制限する。
本稿では,時系列予測における過適合問題に対処するため,トレーニング損失の動的誤差境界を導入する。
そこで本研究では,各イテレーションの時間ステップと特徴ごとにトレーニング損失の適切な誤差範囲を推定するウェーブバウンドと呼ばれる正規化手法を提案する。
予測不可能なデータにモデルを集中させることで、WaveBoundはトレーニングプロセスを安定させ、一般化を大幅に改善する。
大規模な実験により、WaveBoundは最先端モデルを含む既存のモデルを大きく改善することを示す。
関連論文リスト
- ODEStream: A Buffer-Free Online Learning Framework with ODE-based Adaptor for Streaming Time Series Forecasting [11.261457967759688]
ODEStreamはバッファフリーの継続的学習フレームワークで、データに時間的依存関係を統合する時間的分離レイヤを備えている。
提案手法は,履歴データの動的および分布が時間とともにどのように変化するかを学ぶことに焦点を当て,ストリーミングシーケンスの直接処理を容易にする。
ベンチマーク実世界のデータセットによる評価は、ODEStreamが最先端のオンライン学習とストリーミング分析のベースラインを上回っていることを示している。
論文 参考訳(メタデータ) (2024-11-11T22:36:33Z) - TimeSieve: Extracting Temporal Dynamics through Information Bottlenecks [31.10683149519954]
本稿では,時系列予測モデルTimeSieveを提案する。
提案手法では、ウェーブレット変換を用いて時系列データを前処理し、マルチスケールの特徴を効果的にキャプチャする。
本研究は,時系列予測における課題に対処するためのアプローチの有効性を検証した。
論文 参考訳(メタデータ) (2024-06-07T15:58:12Z) - Loss Shaping Constraints for Long-Term Time Series Forecasting [79.3533114027664]
本稿では,長期時系列予測のための制約付き学習手法を提案する。
提案手法は, 予測ウィンドウ上でエラーを発生させながら, 時系列ベンチマークにおける競合平均性能を示すことを示すための, 実用的なプリマル・デュアルアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-02-14T18:20:44Z) - Timer: Generative Pre-trained Transformers Are Large Time Series Models [83.03091523806668]
本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。
事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。
多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
論文 参考訳(メタデータ) (2024-02-04T06:55:55Z) - Learning Robust Precipitation Forecaster by Temporal Frame Interpolation [65.5045412005064]
本研究では,空間的不一致に対するレジリエンスを示す頑健な降水予測モデルを構築した。
提案手法は,textit4cast'23コンペティションの移行学習リーダーボードにおいて,textit1位を確保したモデルにおいて,予測精度が大幅に向上した。
論文 参考訳(メタデータ) (2023-11-30T08:22:08Z) - Generative Time Series Forecasting with Diffusion, Denoise, and
Disentanglement [51.55157852647306]
時系列予測は多くのアプリケーションにおいて非常に重要な課題である。
実世界の時系列データが短時間に記録されることが一般的であり、これはディープモデルと限られたノイズのある時系列との間に大きなギャップをもたらす。
本稿では,生成モデルを用いた時系列予測問題に対処し,拡散,雑音,ゆがみを備えた双方向変分自動エンコーダを提案する。
論文 参考訳(メタデータ) (2023-01-08T12:20:46Z) - Time Series Forecasting Models Copy the Past: How to Mitigate [24.397660153755997]
ノイズや不確実性の存在下では、ニューラルネットワークモデルは時系列の最後の観測値を複製する傾向がある。
本稿では、以前に見られた値の複製を罰する正規化項を提案する。
以上の結果から, 正規化という用語は, 上記の問題をある程度緩和し, より堅牢なモデルがもたらされることが示唆された。
論文 参考訳(メタデータ) (2022-07-27T10:39:00Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Low-Rank Temporal Attention-Augmented Bilinear Network for financial
time-series forecasting [93.73198973454944]
ディープラーニングモデルは、金融時系列データの予測問題など、さまざまな領域から来る多くの問題において、大幅なパフォーマンス改善をもたらしている。
近年,制限順序書の時系列予測の効率的かつ高性能なモデルとして,時間的注意強化バイリニアネットワークが提案されている。
本稿では,モデルの低ランクテンソル近似を提案し,トレーニング可能なパラメータの数をさらに削減し,その速度を向上する。
論文 参考訳(メタデータ) (2021-07-05T10:15:23Z) - Adjusting for Autocorrelated Errors in Neural Networks for Time Series
Regression and Forecasting [10.659189276058948]
我々は,自己相関係数をモデルパラメータと組み合わせて学習し,自己相関誤差の補正を行う。
時系列回帰では,大規模な実験により,本手法がPrais-Winsten法より優れていることが示された。
実世界の幅広いデータセットを対象とした結果から,ほぼすべてのケースにおいて,本手法が性能を向上させることが示唆された。
論文 参考訳(メタデータ) (2021-01-28T04:25:51Z) - Multivariate Probabilistic Time Series Forecasting via Conditioned
Normalizing Flows [8.859284959951204]
時系列予測は科学的・工学的な問題の基本である。
深層学習法はこの問題に適している。
多くの実世界のデータセットにおける標準メトリクスの最先端よりも改善されていることを示す。
論文 参考訳(メタデータ) (2020-02-14T16:16:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。