論文の概要: LSTTN: A Long-Short Term Transformer-based Spatio-temporal Neural Network for Traffic Flow Forecasting

• arxiv url: http://arxiv.org/abs/2403.16495v1
• Date: Mon, 25 Mar 2024 07:23:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-26 15:37:57.122320
• Title: LSTTN: A Long-Short Term Transformer-based Spatio-temporal Neural Network for Traffic Flow Forecasting
• Title（参考訳）: LSTTN:交通流予測のための長期変圧器を用いた時空間時空間ニューラルネットワーク
• Authors: Qinyao Luo, Silu He, Xing Han, Yuhan Wang, Haifeng Li,
• Abstract要約: 交通流の長期的・短期的表現を学習するためにLSTTN(Long-term Transformer-based Network)を提案する。 LSTTNは、予測結果を得るために、長期的傾向、周期的特徴、短期的特徴を融合する。 実験では、LSTTNは最低5.63%の改善を達成し、ベースラインモデルよりも最大16.78%改善した。
• 参考スコア（独自算出の注目度）: 4.913321495945671
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Accurate traffic forecasting is a fundamental problem in intelligent transportation systems and learning long-range traffic representations with key information through spatiotemporal graph neural networks (STGNNs) is a basic assumption of current traffic flow prediction models. However, due to structural limitations, existing STGNNs can only utilize short-range traffic flow data; therefore, the models cannot adequately learn the complex trends and periodic features in traffic flow. Besides, it is challenging to extract the key temporal information from the long historical traffic series and obtain a compact representation. To solve the above problems, we propose a novel LSTTN (Long-Short Term Transformer-based Network) framework comprehensively considering the long- and short-term features in historical traffic flow. First, we employ a masked subseries Transformer to infer the content of masked subseries from a small portion of unmasked subseries and their temporal context in a pretraining manner, forcing the model to efficiently learn compressed and contextual subseries temporal representations from long historical series. Then, based on the learned representations, long-term trend is extracted by using stacked 1D dilated convolution layers, and periodic features are extracted by dynamic graph convolution layers. For the difficulties in making time-step level prediction, LSTTN adopts a short-term trend extractor to learn fine-grained short-term temporal features. Finally, LSTTN fuses the long-term trend, periodic features and short-term features to obtain the prediction results. Experiments on four real-world datasets show that in 60-minute-ahead long-term forecasting, the LSTTN model achieves a minimum improvement of 5.63\% and a maximum improvement of 16.78\% over baseline models. The source code is available at https://github.com/GeoX-Lab/LSTTN.
• Abstract（参考訳）: 正確な交通予測は、インテリジェント交通システムにおける基本的な問題であり、時空間グラフニューラルネットワーク(STGNN)によるキー情報による長距離交通表現の学習は、現在の交通流予測モデルの基本前提である。 しかし, 構造的制約のため, 既存のSTGNNは短距離交通流データしか利用できないため, モデルが交通流の複雑な傾向や周期的特徴を適切に学習することはできない。 また、長い歴史交通系列から重要な時間情報を抽出し、コンパクトな表現を得ることも困難である。 上記の問題を解決するために,歴史交通流の長期的・短期的特徴を包括的に考慮したLSTTN(Long-Short Term Transformer-based Network)フレームワークを提案する。 まず、マスク付きサブシリーズ変換器を用いて、マスク付きサブシリーズのごく一部と時間的文脈を事前学習方法で推定し、長い歴史シリーズから圧縮および文脈的サブシリーズの時間的表現を効率的に学習する。 そして、これらの学習表現に基づいて1次元拡張畳み込み層を用いて長期トレンドを抽出し、動的グラフ畳み込み層により周期的特徴を抽出する。 時間段階予測の難しさに対して、LSTTNは短期的傾向抽出器を採用して、微細な短期的特徴を学習する。 最後に、LSTTNは予測結果を得るために、長期的傾向、周期的特徴、短期的特徴を融合する。 4つの実世界のデータセットの実験により、LSTTNモデルは60分間の長期予測において、ベースラインモデルよりも5.63\%、最大16.78\%の改善を達成している。 ソースコードはhttps://github.com/GeoX-Lab/LSTTNで入手できる。

関連論文リスト

• Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series Forecasting Approach [71.67506068703314]
  長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。 伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。 本研究では,都市におけるモビリティ予測の新たな視点について紹介する。 都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
  論文  参考訳（メタデータ） (2023-12-04T07:39:05Z)
• HUTFormer: Hierarchical U-Net Transformer for Long-Term Traffic Forecasting [13.49661832917228]
  我々は,例えば1日間の予測など,長期の交通予測を探求する最初の試みを行っている。 本稿では,長期交通予測の問題に対処する新しい階層型U-netトランスフォーマーを提案する。 提案したHUTFormerは、最先端のトラフィック予測と長時間の時系列予測ベースラインを大きく上回っている。
  論文  参考訳（メタデータ） (2023-07-27T02:43:21Z)
• CARD: Channel Aligned Robust Blend Transformer for Time Series Forecasting [50.23240107430597]
  本稿では,CARD(Channel Aligned Robust Blend Transformer)という特殊なトランスを設計する。 まず、CARDはチャネルに沿ったアテンション構造を導入し、信号間の時間的相関をキャプチャする。 第二に、マルチスケール知識を効率的に活用するために、異なる解像度のトークンを生成するトークンブレンドモジュールを設計する。 第3に,潜在的な過度な問題を軽減するため,時系列予測のためのロバストな損失関数を導入する。
  論文  参考訳（メタデータ） (2023-05-20T05:16:31Z)
• PDFormer: Propagation Delay-Aware Dynamic Long-Range Transformer for Traffic Flow Prediction [78.05103666987655]
  空間時空間グラフニューラルネットワーク(GNN)モデルは、この問題を解決する最も有望な方法の1つである。 本稿では,交通流の正確な予測を行うために,遅延を意識した動的長距離トランスフォーマー(PDFormer)を提案する。 提案手法は,最先端の性能を達成するだけでなく,計算効率の競争力も発揮できる。
  論文  参考訳（メタデータ） (2023-01-19T08:42:40Z)
• Towards Long-Term Time-Series Forecasting: Feature, Pattern, and Distribution [57.71199089609161]
  長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。 トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。 LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
  論文  参考訳（メタデータ） (2023-01-05T13:59:29Z)
• STGIN: A Spatial Temporal Graph-Informer Network for Long Sequence Traffic Speed Forecasting [8.596556653895028]
  本研究では,長期交通パラメータ予測問題に対処する新しい時空間ニューラルネットワークアーキテクチャを提案する。 注意機構は、遠方の入力から重要な情報を失うことなく、長期的な予測性能を保証する可能性がある。
  論文  参考訳（メタデータ） (2022-10-01T05:58:22Z)
• Pre-training Enhanced Spatial-temporal Graph Neural Network for Multivariate Time Series Forecasting [13.441945545904504]
  スケーラブルな時系列事前学習モデル(STEP)によりSTGNNが拡張される新しいフレームワークを提案する。 具体的には、非常に長期の歴史時系列から時間パターンを効率的に学習するための事前学習モデルを設計する。 我々のフレームワークは下流のSTGNNを著しく強化することができ、事前学習モデルは時間パターンを適切にキャプチャする。
  論文  参考訳（メタデータ） (2022-06-18T04:24:36Z)
• STformer: A Noise-Aware Efficient Spatio-Temporal Transformer Architecture for Traffic Forecasting [7.230415327436048]
  本稿では,STformer という,交通予測の精度向上を目的とした新しいノイズ認識型リアルタイムアーキテクチャを提案する。 STformer はノイズ認識時空間自己アテンション (NATSA) とグラフベーススパース空間自己アテンション (GBS3A) の2つのコンポーネントから構成される。 4つの実世界のトラフィックデータセットの実験により、STformerは計算コストを下げて最先端のベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2021-12-06T02:17:39Z)
• Online learning of windmill time series using Long Short-term Cognitive Networks [58.675240242609064]
  風車農場で生成されたデータの量は、オンライン学習が従うべき最も有効な戦略となっている。 我々はLong Short-term Cognitive Networks (LSTCNs) を用いて、オンライン環境での風車時系列を予測する。 提案手法は,単純なRNN,長期記憶,Gated Recurrent Unit,Hidden Markov Modelに対して最も低い予測誤差を報告した。
  論文  参考訳（メタデータ） (2021-07-01T13:13:24Z)
• Unified Spatio-Temporal Modeling for Traffic Forecasting using Graph Neural Network [2.7088996845250897]
  このような分解加群との複素時間的関係を抽出するのは時間的効果が低いと我々は主張する。 空間的および時間的アグリゲーションを行う交通予測のための統一S週間グラフ畳み込み(USTGCN)を提案する。 我々のモデルUSTGCNは3つの人気のあるベンチマークデータセットで最先端のパフォーマンスを上回ります。
  論文  参考訳（メタデータ） (2021-04-26T12:33:17Z)
• Liquid Time-constant Networks [117.57116214802504]
  本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。 暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。 これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
  論文  参考訳（メタデータ） (2020-06-08T09:53:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。