論文の概要: Spatio-Temporal-Decoupled Masked Pre-training for Traffic Forecasting
- arxiv url: http://arxiv.org/abs/2312.00516v1
- Date: Fri, 1 Dec 2023 11:43:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-04 14:56:36.468883
- Title: Spatio-Temporal-Decoupled Masked Pre-training for Traffic Forecasting
- Title(参考訳): 交通予測のための時空間分離マスク事前学習
- Authors: Haotian Gao, Renhe Jiang, Zheng Dong, Jinliang Deng, Xuan Song
- Abstract要約: STD-DeMAEは、複雑な依存関係を学習し、エンコードするためにマスク付きオートエンコーダを使用する新しいフレームワークである。
STD-DeMAEは、長距離空間パターンと時間パターンをキャプチャする能力を明示的に強化する。
- 参考スコア(独自算出の注目度): 11.224182562421356
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Accurate forecasting of multivariate traffic flow time series remains
challenging due to substantial spatio-temporal heterogeneity and complex
long-range correlative patterns. To address this, we propose
Spatio-Temporal-Decoupled Masked Pre-training (STD-MAE), a novel framework that
employs masked autoencoders to learn and encode complex spatio-temporal
dependencies via pre-training. Specifically, we use two decoupled masked
autoencoders to reconstruct the traffic data along spatial and temporal axes
using a self-supervised pre-training approach. These mask reconstruction
mechanisms capture the long-range correlations in space and time separately.
The learned hidden representations are then used to augment the downstream
spatio-temporal traffic predictor. A series of quantitative and qualitative
evaluations on four widely-used traffic benchmarks (PEMS03, PEMS04, PEMS07, and
PEMS08) are conducted to verify the state-of-the-art performance, with STD-MAE
explicitly enhancing the downstream spatio-temporal models' ability to capture
long-range intricate spatial and temporal patterns. Codes are available at
https://github.com/Jimmy-7664/STD_MAE.
- Abstract(参考訳): 多変量トラヒックフロー時系列の正確な予測は、時空間的不均一性と複雑な長距離相関パターンのため、依然として困難である。
そこで,本稿では,仮学習による複雑な時空間依存性の学習とエンコードを行うための,マスク付きオートエンコーダを用いた新しいフレームワークであるstd-maeを提案する。
具体的には,2つの分離マスクオートエンコーダを用いて,自己教師付き事前学習手法を用いて,空間的および時間的軸に沿ったトラヒックデータを再構成する。
これらのマスク再構成機構は、空間と時間の長距離相関を別々に捉える。
学習した隠れ表現は、下流の時空間トラフィック予測器を強化するために使用される。
広範に使用されている4つの交通ベンチマーク (PEMS03, PEMS04, PEMS07, PEMS08) の定量的, 定性的な評価を行い, STD-MAE は長時間の空間的および時間的パターンを捕捉する下流時空間モデルの性能を明示的に向上させる。
コードはhttps://github.com/jimmy-7664/std_maeで入手できる。
関連論文リスト
- Cross Space and Time: A Spatio-Temporal Unitized Model for Traffic Flow Forecasting [16.782154479264126]
時間的要因間の複雑な相互作用により、バックボーン・時間的トラフィックフローを予測することが課題となる。
既存のアプローチでは、これらの次元を分離し、重要な相互依存を無視している。
本稿では,空間的および時間的依存関係の両方をキャプチャする統合フレームワークであるSanonymous-Temporal Unitized Unitized Cell (ASTUC)を紹介する。
論文 参考訳(メタデータ) (2024-11-14T07:34:31Z) - UmambaTSF: A U-shaped Multi-Scale Long-Term Time Series Forecasting Method Using Mamba [7.594115034632109]
本稿では,新しい時系列予測フレームワークであるUmambaTSFを提案する。
U字型エンコーダ・デコーダ多層パーセプトロン(MLP)のマルチスケール特徴抽出機能とMambaのロングシーケンス表現を統合する。
UmambaTSFは、広く使用されているベンチマークデータセットで最先端のパフォーマンスと優れた汎用性を達成する。
論文 参考訳(メタデータ) (2024-10-15T04:56:43Z) - Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
我々は時系列の統一予測のための生成変換器Timer-XLを提案する。
Timer-XLは、統一されたアプローチにより、挑戦的な予測ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-10-07T07:27:39Z) - PDETime: Rethinking Long-Term Multivariate Time Series Forecasting from
the perspective of partial differential equations [49.80959046861793]
本稿では,ニューラルPDEソルバの原理に着想を得た新しいLMTFモデルであるPDETimeを提案する。
7つの異なる時間的実世界のLMTFデータセットを用いた実験により、PDETimeがデータ固有の性質に効果的に適応できることが判明した。
論文 参考訳(メタデータ) (2024-02-25T17:39:44Z) - TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [67.02157180089573]
時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。
本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
論文 参考訳(メタデータ) (2024-02-04T13:10:51Z) - Revisiting the Temporal Modeling in Spatio-Temporal Predictive Learning
under A Unified View [73.73667848619343]
UTEP(Unified S-Temporal Predictive Learning)は,マイクロテンポラリスケールとマクロテンポラリスケールを統合した再帰的および再帰的フリーな手法を再構築する,革新的なフレームワークである。
論文 参考訳(メタデータ) (2023-10-09T16:17:42Z) - SimMTM: A Simple Pre-Training Framework for Masked Time-Series Modeling [82.69579113377192]
SimMTM は Masked Time-Series Modeling のための単純な事前トレーニングフレームワークである。
SimMTMは、多様体の外にある複数の隣人の重み付けによるマスク付き時間点の復元を行う。
SimMTMは、最も先進的な時系列事前学習法と比較して、最先端の微調整性能を実現する。
論文 参考訳(メタデータ) (2023-02-02T04:12:29Z) - Towards Spatio-Temporal Aware Traffic Time Series Forecasting--Full
Version [37.09531298150374]
同じ時系列パターンの複雑な時系列パターンが時間によって異なる可能性があるため、トラフィックシリーズの予測は困難である。
このような時間的モデルは、時間的位置と時間的期間に関わらず、共有パラメータ空間を使用し、時間的相関は場所間で類似しており、常に時間にわたって保持するわけではないと仮定する。
サブテンポラリモデルにICDを意識したモデルをエンコードするフレームワークを提案する。
論文 参考訳(メタデータ) (2022-03-29T16:44:56Z) - Monitoring Time Series With Missing Values: a Deep Probabilistic
Approach [1.90365714903665]
本研究では,高次元時系列における予測の最先端手法と不確実性の完全な確率的ハンドリングを組み合わせた時系列モニタリングのための新しいアーキテクチャを提案する。
本稿では、時系列予測と新規性検出のアーキテクチャの利点を、特に部分的に欠落したデータで示し、実世界のデータセットにおける最先端のアプローチとアーキテクチャを実証的に評価し比較する。
論文 参考訳(メタデータ) (2022-03-09T17:53:47Z) - Supporting Optimal Phase Space Reconstructions Using Neural Network
Architecture for Time Series Modeling [68.8204255655161]
位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。
私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
論文 参考訳(メタデータ) (2020-06-19T21:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。