論文の概要: TimeSQL: Improving Multivariate Time Series Forecasting with Multi-Scale Patching and Smooth Quadratic Loss

• arxiv url: http://arxiv.org/abs/2311.11285v1
• Date: Sun, 19 Nov 2023 10:05:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-21 21:08:42.542945
• Title: TimeSQL: Improving Multivariate Time Series Forecasting with Multi-Scale Patching and Smooth Quadratic Loss
• Title（参考訳）: TimeSQL: マルチスケールパッチとスムーズな2次損失による多変量時系列予測の改善
• Authors: Site Mo, Haoxin Wang, Bixiong Li, Songhai Fan, Yuankai Wu, Xianggen Liu
• Abstract要約: 時系列(英: Time series)は、時間間隔で収集された実数値のランダム変数の列である。 Timeは8つの実世界のベンチマークデータセット上で、最先端のパフォーマンスを新たに達成する。
• 参考スコア（独自算出の注目度）: 9.71229156211078
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Time series is a special type of sequence data, a sequence of real-valued random variables collected at even intervals of time. The real-world multivariate time series comes with noises and contains complicated local and global temporal dynamics, making it difficult to forecast the future time series given the historical observations. This work proposes a simple and effective framework, coined as TimeSQL, which leverages multi-scale patching and smooth quadratic loss (SQL) to tackle the above challenges. The multi-scale patching transforms the time series into two-dimensional patches with different length scales, facilitating the perception of both locality and long-term correlations in time series. SQL is derived from the rational quadratic kernel and can dynamically adjust the gradients to avoid overfitting to the noises and outliers. Theoretical analysis demonstrates that, under mild conditions, the effect of the noises on the model with SQL is always smaller than that with MSE. Based on the two modules, TimeSQL achieves new state-of-the-art performance on the eight real-world benchmark datasets. Further ablation studies indicate that the key modules in TimeSQL could also enhance the results of other models for multivariate time series forecasting, standing as plug-and-play techniques.
• Abstract（参考訳）: 時系列(英: Time series)とは、任意の時間間隔で収集された実数値の確率変数の列である。 実世界の多変量時系列はノイズを伴い、複雑な局所的および大域的時間力学を含むため、歴史的観測から将来の時系列を予測することは困難である。 この作業は、マルチスケールパッチとスムーズな二次的損失(SQL)を活用して、上記の課題に対処する、シンプルで効果的なフレームワークであるTimeSQLを提案する。 マルチスケールパッチは、時系列を異なる長さスケールの2次元パッチに変換し、時系列における局所性と長期相関の認識を促進する。 sqlはrational quadratic kernelから派生したもので、ノイズや外れ値の過剰を避けるために動的に勾配を調整することができる。 理論的解析により、穏やかな条件下では、SQLのモデルに対するノイズの影響は常にMSEのノイズよりも小さいことが示される。 2つのモジュールに基づいて、TimeSQLは8つの実世界のベンチマークデータセット上で、最先端のパフォーマンスを新たに達成する。 さらなるアブレーション研究により、TimeSQLのキーモジュールは、プラグイン・アンド・プレイ技術として立脚した多変量時系列予測のための他のモデルの結果も強化できることが示された。

関連論文リスト

• Moirai-MoE: Empowering Time Series Foundation Models with Sparse Mixture of Experts [103.725112190618]
  本稿では,単一入出力プロジェクション層を用いたMoirai-MoEを紹介するとともに,多種多様な時系列パターンのモデリングを専門家の疎結合に委ねる。 39のデータセットに対する大規模な実験は、既存の基盤モデルよりも、分配シナリオとゼロショットシナリオの両方において、Moirai-MoEの優位性を実証している。
  論文  参考訳（メタデータ） (2024-10-14T13:01:11Z)
• Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
  我々は時系列の統一予測のための生成変換器Timer-XLを提案する。 Timer-XLは、統一されたアプローチにより、挑戦的な予測ベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-10-07T07:27:39Z)
• Leveraging 2D Information for Long-term Time Series Forecasting with Vanilla Transformers [55.475142494272724]
  時系列予測は、様々な領域における複雑な力学の理解と予測に不可欠である。 GridTSTは、革新的な多方向性の注意を用いた2つのアプローチの利点を組み合わせたモデルである。 このモデルは、さまざまな現実世界のデータセットに対して、常に最先端のパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2024-05-22T16:41:21Z)
• TPRNN: A Top-Down Pyramidal Recurrent Neural Network for Time Series Forecasting [7.08506873242564]
  時系列は、異なるスケールで異なる時間パターン、すなわち異なる時間パターンを持つ。 時系列予測のためのTPRNN(Top-down Pyramidal Recurrent Neural Network)を提案する。 TPRNNは、最高のベースラインに比べて平均8.13%改善して最先端のパフォーマンスを達成した。
  論文  参考訳（メタデータ） (2023-12-11T12:21:45Z)
• TimesNet: Temporal 2D-Variation Modeling for General Time Series Analysis [80.56913334060404]
  時系列解析は、天気予報、異常検出、行動認識などの応用において非常に重要である。 従来の手法では、1D時系列から直接これを達成しようと試みていた。 複雑な経時的変化を、複数の経時的変化と経時的変化に明らかにする。
  論文  参考訳（メタデータ） (2022-10-05T12:19:51Z)
• Expressing Multivariate Time Series as Graphs with Time Series Attention Transformer [14.172091921813065]
  多変量時系列表現学習のための時系列注意変換器(TSAT)を提案する。 TSATを用いて、エッジ強化された動的グラフの観点から、時系列の時間情報と相互依存の両方を表現している。 TSATは、様々な予測地平線において、最先端の6つのベースライン法より明らかに優れていることを示す。
  論文  参考訳（メタデータ） (2022-08-19T12:25:56Z)
• Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
  マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。 我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。 本モデルは,多くの多変量データセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-05-16T07:53:42Z)
• Instance-wise Graph-based Framework for Multivariate Time Series Forecasting [69.38716332931986]
  我々は,異なる時刻スタンプにおける変数の相互依存性を利用するための,シンプルで効率的なインスタンス単位のグラフベースのフレームワークを提案する。 私たちのフレームワークのキーとなる考え方は、異なる変数の履歴時系列から予測すべき現在の時系列に情報を集約することです。
  論文  参考訳（メタデータ） (2021-09-14T07:38:35Z)
• A Deep Structural Model for Analyzing Correlated Multivariate Time Series [11.009809732645888]
  相関した多変量時系列入力を処理できる深層学習構造時系列モデルを提案する。 モデルは、トレンド、季節性、イベントコンポーネントを明示的に学習し、抽出する。 我々は,様々な時系列データセットに関する総合的な実験を通して,そのモデルと最先端のいくつかの手法を比較した。
  論文  参考訳（メタデータ） (2020-01-02T18:48:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。