論文の概要: MultiSPANS: A Multi-range Spatial-Temporal Transformer Network for
Traffic Forecast via Structural Entropy Optimization
- arxiv url: http://arxiv.org/abs/2311.02880v1
- Date: Mon, 6 Nov 2023 05:19:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-07 15:10:25.359898
- Title: MultiSPANS: A Multi-range Spatial-Temporal Transformer Network for
Traffic Forecast via Structural Entropy Optimization
- Title（参考訳）: MultiSPANS:構造エントロピー最適化による交通予測のためのマルチレンジ時空間変圧器ネットワーク
- Authors: Dongcheng Zou, Senzhang Wang, Xuefeng Li, Hao Peng, Yuandong Wang,
Chunyang Liu, Kehua Sheng and Bo Zhang
- Abstract要約: ローカル時間と道路ネットワークの知識を用いて複雑なマルチレンジ依存をモデル化するMultiSPANSを提案する。
空間的注意機構を最適化するために構造エントロピー理論を用いる。
実験では、実世界のトラフィックデータセットにおけるいくつかの最先端手法よりも、提示されたフレームワークの方が優れていることを示した。
- 参考スコア（独自算出の注目度）: 34.27143920444722
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traffic forecasting is a complex multivariate time-series regression task of
paramount importance for traffic management and planning. However, existing
approaches often struggle to model complex multi-range dependencies using local
spatiotemporal features and road network hierarchical knowledge. To address
this, we propose MultiSPANS. First, considering that an individual recording
point cannot reflect critical spatiotemporal local patterns, we design
multi-filter convolution modules for generating informative ST-token embeddings
to facilitate attention computation. Then, based on ST-token and
spatial-temporal position encoding, we employ the Transformers to capture
long-range temporal and spatial dependencies. Furthermore, we introduce
structural entropy theory to optimize the spatial attention mechanism.
Specifically, The structural entropy minimization algorithm is used to generate
optimal road network hierarchies, i.e., encoding trees. Based on this, we
propose a relative structural entropy-based position encoding and a multi-head
attention masking scheme based on multi-layer encoding trees. Extensive
experiments demonstrate the superiority of the presented framework over several
state-of-the-art methods in real-world traffic datasets, and the longer
historical windows are effectively utilized. The code is available at
https://github.com/SELGroup/MultiSPANS.
- Abstract（参考訳）: 交通予測は、交通管理と計画において最重要となる複雑な多変量時系列回帰タスクである。
しかしながら、既存のアプローチでは、局所的時空間的特徴と道路網階層的知識を用いて複雑な多範囲依存をモデル化するのに苦労することが多い。
そこで我々はMultiSPANSを提案する。
まず,個々の記録点が臨界時空間的局所パターンを反映できないことを考慮し,st-token埋め込みを生成するマルチフィルタ畳み込みモジュールを設計し,注意の計算を容易にする。
そして,ST-tokenと空間時空間位置エンコーディングに基づいて,トランスフォーマーを用いて時間的および空間的依存関係をキャプチャする。
さらに,空間的注意機構を最適化するために構造エントロピー理論を導入する。
具体的には、構造エントロピー最小化アルゴリズムを用いて最適な道路ネットワーク階層、すなわち木を符号化する。
そこで本研究では, 相対構造エントロピーに基づく位置符号化と多層符号化木に基づく多層マスキング方式を提案する。
大規模な実験により、実世界のトラヒックデータセットにおける最先端のメソッドに対する提案フレームワークの優位性が実証され、より長い歴史的なウィンドウが効果的に利用されている。
コードはhttps://github.com/SELGroup/MultiSPANS.comで入手できる。
関連論文リスト
- Cross-Domain Transfer Learning using Attention Latent Features for Multi-Agent Trajectory Prediction [4.292918274985369]
本稿では,トランスフォーマーモデルにおけるアテンション表現に対して,クロスドメイン適応を行う新しい時空間軌道予測フレームワークを提案する。
グラフ畳み込みネットワークは、マルチエージェント車両間の複雑な時空間相互作用を正確にモデル化する動的グラフ特徴埋め込みを構築するためにも統合される。
論文 参考訳（メタデータ） (2024-11-09T06:39:44Z) - Adaptive Hierarchical SpatioTemporal Network for Traffic Forecasting [70.66710698485745]
本稿では,AHSTN(Adaptive Hierarchical SpatioTemporal Network)を提案する。
AHSTNは空間階層を利用し、マルチスケール空間相関をモデル化する。
2つの実世界のデータセットの実験により、AHSTNはいくつかの強いベースラインよりも優れたパフォーマンスを達成することが示された。
論文 参考訳（メタデータ） (2023-06-15T14:50:27Z) - FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳（メタデータ） (2023-02-20T07:46:14Z) - Dynamic Spatial Sparsification for Efficient Vision Transformers and
Convolutional Neural Networks [88.77951448313486]
視覚データにおける空間空間空間性を利用したモデルアクセラレーションのための新しい手法を提案する。
本稿では,冗長トークンを具現化する動的トークンスペーシフィケーションフレームワークを提案する。
提案手法は,CNNや階層型視覚変換器などの階層モデルに拡張する。
論文 参考訳（メタデータ） (2022-07-04T17:00:51Z) - TMS: A Temporal Multi-scale Backbone Design for Speaker Embedding [60.292702363839716]
話者埋め込みのための現在のSOTAバックボーンネットワークは、話者表現のためのマルチブランチネットワークアーキテクチャを用いた発話からマルチスケール特徴を集約するように設計されている。
本稿では, 話者埋め込みネットワークにおいて, 計算コストの増大を伴わずに, マルチスケール分岐を効率的に設計できる効果的な時間的マルチスケール(TMS)モデルを提案する。
論文 参考訳（メタデータ） (2022-03-17T05:49:35Z) - Traffic Flow Forecasting with Spatial-Temporal Graph Diffusion Network [39.65520262751766]
我々は新しい交通予測フレームワーク-時空間グラフ拡散ネットワーク(ST-GDN)を開発した。
特にST-GDNは階層的に構造化されたグラフニューラルネットワークアーキテクチャであり、局所的な地域的な地理的依存関係だけでなく、グローバルな視点から空間的意味論も学習する。
複数の実生活トラフィックデータセットの実験では、ST-GDNは最先端のベースラインの異なるタイプよりも優れていることが示されている。
論文 参考訳（メタデータ） (2021-10-08T11:19:06Z) - MAF-GNN: Multi-adaptive Spatiotemporal-flow Graph Neural Network for
Traffic Speed Forecasting [3.614768552081925]
交通速度予測のためのマルチ適応時空間フローグラフニューラルネットワーク(MAF-GNN)を提案する。
MAF-GNNは、トラフィックノード間の複数の遅延空間依存性をキャプチャする、効果的なマルチアダプティブ・アジャシエイト・マトリクス機構を導入している。
パブリックトラフィックネットワークの2つの実世界のデータセットであるMETR-LAとPeMS-Bayでは、他のモデルよりも優れたパフォーマンスを実現している。
論文 参考訳（メタデータ） (2021-08-08T09:06:43Z) - SST-GNN: Simplified Spatio-temporal Traffic forecasting model using
Graph Neural Network [2.524966118517392]
我々は,SST-GNN(SST-GNN)を簡易に設計し,異なる地区を個別に集約することで依存性を効果的に符号化した。
我々は,本モデルが3つの実環境トラフィックデータセットの最先端モデルよりも大幅に優れていることを示した。
論文 参考訳（メタデータ） (2021-03-31T18:28:44Z) - Multi-intersection Traffic Optimisation: A Benchmark Dataset and a
Strong Baseline [85.9210953301628]
交通信号の制御は、都市部の交通渋滞の緩和に必要不可欠である。
問題モデリングの複雑さが高いため、現在の作業の実験的な設定はしばしば矛盾する。
エンコーダ・デコーダ構造を用いた深層強化学習に基づく新規で強力なベースラインモデルを提案する。
論文 参考訳（メタデータ） (2021-01-24T03:55:39Z) - Spatial-Temporal Transformer Networks for Traffic Flow Forecasting [74.76852538940746]
本稿では,長期交通予測の精度を向上させるため,時空間変圧器ネットワーク(STTN)の新たなパラダイムを提案する。
具体的には、有向空間依存を動的にモデル化することにより、空間変換器と呼ばれる新しいグラフニューラルネットワークを提案する。
提案モデルにより,長期間にわたる空間的依存関係に対する高速かつスケーラブルなトレーニングが可能になる。
論文 参考訳（メタデータ） (2020-01-09T10:21:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。