論文の概要: TimeSQL: Improving Multivariate Time Series Forecasting with Multi-Scale
Patching and Smooth Quadratic Loss
- arxiv url: http://arxiv.org/abs/2311.11285v1
- Date: Sun, 19 Nov 2023 10:05:50 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-21 21:08:42.542945
- Title: TimeSQL: Improving Multivariate Time Series Forecasting with Multi-Scale
Patching and Smooth Quadratic Loss
- Title(参考訳): TimeSQL: マルチスケールパッチとスムーズな2次損失による多変量時系列予測の改善
- Authors: Site Mo, Haoxin Wang, Bixiong Li, Songhai Fan, Yuankai Wu, Xianggen
Liu
- Abstract要約: 時系列(英: Time series)は、時間間隔で収集された実数値のランダム変数の列である。
Timeは8つの実世界のベンチマークデータセット上で、最先端のパフォーマンスを新たに達成する。
- 参考スコア(独自算出の注目度): 9.71229156211078
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Time series is a special type of sequence data, a sequence of real-valued
random variables collected at even intervals of time. The real-world
multivariate time series comes with noises and contains complicated local and
global temporal dynamics, making it difficult to forecast the future time
series given the historical observations. This work proposes a simple and
effective framework, coined as TimeSQL, which leverages multi-scale patching
and smooth quadratic loss (SQL) to tackle the above challenges. The multi-scale
patching transforms the time series into two-dimensional patches with different
length scales, facilitating the perception of both locality and long-term
correlations in time series. SQL is derived from the rational quadratic kernel
and can dynamically adjust the gradients to avoid overfitting to the noises and
outliers. Theoretical analysis demonstrates that, under mild conditions, the
effect of the noises on the model with SQL is always smaller than that with
MSE. Based on the two modules, TimeSQL achieves new state-of-the-art
performance on the eight real-world benchmark datasets. Further ablation
studies indicate that the key modules in TimeSQL could also enhance the results
of other models for multivariate time series forecasting, standing as
plug-and-play techniques.
- Abstract(参考訳): 時系列(英: Time series)とは、任意の時間間隔で収集された実数値の確率変数の列である。
実世界の多変量時系列はノイズを伴い、複雑な局所的および大域的時間力学を含むため、歴史的観測から将来の時系列を予測することは困難である。
この作業は、マルチスケールパッチとスムーズな二次的損失(SQL)を活用して、上記の課題に対処する、シンプルで効果的なフレームワークであるTimeSQLを提案する。
マルチスケールパッチは、時系列を異なる長さスケールの2次元パッチに変換し、時系列における局所性と長期相関の認識を促進する。
sqlはrational quadratic kernelから派生したもので、ノイズや外れ値の過剰を避けるために動的に勾配を調整することができる。
理論的解析により、穏やかな条件下では、SQLのモデルに対するノイズの影響は常にMSEのノイズよりも小さいことが示される。
2つのモジュールに基づいて、TimeSQLは8つの実世界のベンチマークデータセット上で、最先端のパフォーマンスを新たに達成する。
さらなるアブレーション研究により、TimeSQLのキーモジュールは、プラグイン・アンド・プレイ技術として立脚した多変量時系列予測のための他のモデルの結果も強化できることが示された。
関連論文リスト
- Timer: Transformers for Time Series Analysis at Scale [87.9808714449511]
本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。
事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。
多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
論文 参考訳(メタデータ) (2024-02-04T06:55:55Z) - TPRNN: A Top-Down Pyramidal Recurrent Neural Network for Time Series
Forecasting [7.08506873242564]
時系列は、異なるスケールで異なる時間パターン、すなわち異なる時間パターンを持つ。
時系列予測のためのTPRNN(Top-down Pyramidal Recurrent Neural Network)を提案する。
TPRNNは、最高のベースラインに比べて平均8.13%改善して最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2023-12-11T12:21:45Z) - EdgeConvFormer: Dynamic Graph CNN and Transformer based Anomaly
Detection in Multivariate Time Series [7.514010315664322]
本研究では,階層化されたTime2vec埋め込み,動的グラフCNN,Transformerを統合し,グローバルかつ局所的な空間時間情報を抽出する新たな異常検出手法EdgeConvFormerを提案する。
実験により、EdgeConvFormerは、多変量時系列データから時空間モデリングを学習し、異なるスケールの多くの実世界のデータセットに対する最先端のアプローチよりも優れた異常検出性能を得ることができることが示された。
論文 参考訳(メタデータ) (2023-12-04T08:38:54Z) - Compatible Transformer for Irregularly Sampled Multivariate Time Series [75.79309862085303]
本研究では,各サンプルに対して総合的な時間的相互作用特徴学習を実現するためのトランスフォーマーベースのエンコーダを提案する。
実世界の3つのデータセットについて広範な実験を行い、提案したCoFormerが既存の手法を大幅に上回っていることを検証した。
論文 参考訳(メタデータ) (2023-10-17T06:29:09Z) - Continuous-time convolutions model of event sequences [53.36665135225617]
イベントシーケンスデータの巨大なサンプルは、eコマース、ヘルスケア、ファイナンスなど、さまざまなドメインで発生します。
利用可能なデータの量とクライアント毎のイベントシーケンスの長さは典型的には大きいため、長期的なモデリングが必要である。
時間内の事象の一様発生に適した連続畳み込みニューラルネットワークに基づくCOTIC法を提案する。
論文 参考訳(メタデータ) (2023-02-13T10:34:51Z) - TimesNet: Temporal 2D-Variation Modeling for General Time Series
Analysis [80.56913334060404]
時系列解析は、天気予報、異常検出、行動認識などの応用において非常に重要である。
従来の手法では、1D時系列から直接これを達成しようと試みていた。
複雑な経時的変化を、複数の経時的変化と経時的変化に明らかにする。
論文 参考訳(メタデータ) (2022-10-05T12:19:51Z) - Expressing Multivariate Time Series as Graphs with Time Series Attention
Transformer [14.172091921813065]
多変量時系列表現学習のための時系列注意変換器(TSAT)を提案する。
TSATを用いて、エッジ強化された動的グラフの観点から、時系列の時間情報と相互依存の両方を表現している。
TSATは、様々な予測地平線において、最先端の6つのベースライン法より明らかに優れていることを示す。
論文 参考訳(メタデータ) (2022-08-19T12:25:56Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Instance-wise Graph-based Framework for Multivariate Time Series
Forecasting [69.38716332931986]
我々は,異なる時刻スタンプにおける変数の相互依存性を利用するための,シンプルで効率的なインスタンス単位のグラフベースのフレームワークを提案する。
私たちのフレームワークのキーとなる考え方は、異なる変数の履歴時系列から予測すべき現在の時系列に情報を集約することです。
論文 参考訳(メタデータ) (2021-09-14T07:38:35Z) - A Deep Structural Model for Analyzing Correlated Multivariate Time
Series [11.009809732645888]
相関した多変量時系列入力を処理できる深層学習構造時系列モデルを提案する。
モデルは、トレンド、季節性、イベントコンポーネントを明示的に学習し、抽出する。
我々は,様々な時系列データセットに関する総合的な実験を通して,そのモデルと最先端のいくつかの手法を比較した。
論文 参考訳(メタデータ) (2020-01-02T18:48:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。