論文の概要: EasyST: A Simple Framework for Spatio-Temporal Prediction
- arxiv url: http://arxiv.org/abs/2409.06748v1
- Date: Tue, 10 Sep 2024 11:40:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-12 17:19:05.408599
- Title: EasyST: A Simple Framework for Spatio-Temporal Prediction
- Title(参考訳): EasyST: 時空間予測のためのシンプルなフレームワーク
- Authors: Jiabin Tang, Wei Wei, Lianghao Xia, Chao Huang,
- Abstract要約: 本稿では,時空間予測のための簡単なフレームワークであるEasySTパラダイムを提案する。
複雑な時間的GNNからの知識を蒸留することにより、軽量で堅牢なマルチ層パーセプトロン(MLP)の一般化を学習する。
EasySTは、効率と精度の点で最先端のアプローチを超越している。
- 参考スコア(独自算出の注目度): 18.291117879544945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatio-temporal prediction is a crucial research area in data-driven urban computing, with implications for transportation, public safety, and environmental monitoring. However, scalability and generalization challenges remain significant obstacles. Advanced models often rely on Graph Neural Networks to encode spatial and temporal correlations, but struggle with the increased complexity of large-scale datasets. The recursive GNN-based message passing schemes used in these models hinder their training and deployment in real-life urban sensing scenarios. Moreover, long-spanning large-scale spatio-temporal data introduce distribution shifts, necessitating improved generalization performance. To address these challenges, we propose a simple framework for spatio-temporal prediction - EasyST paradigm. It learns lightweight and robust Multi-Layer Perceptrons (MLPs) by effectively distilling knowledge from complex spatio-temporal GNNs. We ensure robust knowledge distillation by integrating the spatio-temporal information bottleneck with teacher-bounded regression loss, filtering out task-irrelevant noise and avoiding erroneous guidance. We further enhance the generalization ability of the student model by incorporating spatial and temporal prompts to provide downstream task contexts. Evaluation on three spatio-temporal datasets for urban computing tasks demonstrates that EasyST surpasses state-of-the-art approaches in terms of efficiency and accuracy. The implementation code is available at: https://github.com/HKUDS/EasyST.
- Abstract(参考訳): 時空間予測はデータ駆動型都市コンピューティングにおいて重要な研究領域であり、交通、公共安全、環境モニタリングに影響を及ぼす。
しかし、スケーラビリティと一般化の課題は依然として大きな障害である。
高度なモデルは、しばしば空間的および時間的相関を符号化するためにグラフニューラルネットワークに依存するが、大規模データセットの複雑さの増加に苦慮している。
これらのモデルで使用される再帰的なGNNベースのメッセージパッシングスキームは、実際の都市センシングシナリオにおけるトレーニングと展開を妨げる。
さらに、長期にわたる大規模な時空間データには、分散シフトを導入し、一般化性能を向上させる必要がある。
これらの課題に対処するため,時空間予測のための簡単なフレームワーク EasyST パラダイムを提案する。
複雑な時空間GNNからの知識を効果的に蒸留することにより、軽量で堅牢なマルチ層パーセプトロン(MLP)を学習する。
時空間情報ボトルネックを教師が拘束した回帰損失と統合し,タスク関連ノイズを除去し,誤った誘導を避けることで,堅牢な知識蒸留を実現する。
我々は、下流のタスクコンテキストを提供するために、空間的および時間的プロンプトを取り入れることで、学生モデルの一般化能力をさらに強化する。
都市コンピューティングタスクのための3つの時空間データセットの評価は、EasySTが効率と精度の点で最先端のアプローチを超越していることを示している。
実装コードは、https://github.com/HKUDS/EasyST.comで公開されている。
関連論文リスト
- Conservation-informed Graph Learning for Spatiotemporal Dynamics Prediction [84.26340606752763]
本稿では,保護インフォームドGNN(CiGNN)について紹介する。
このネットワークは、保守的かつ非保守的な情報が、潜時的行進戦略によって多次元空間を通過する対称性による一般的な対称性保存則に従うように設計されている。
結果は,CiGNNが顕著なベースライン精度と一般化性を示し,様々な時間的ダイナミクスの予測のための学習に容易に適用可能であることを示した。
論文 参考訳(メタデータ) (2024-12-30T13:55:59Z) - PreMixer: MLP-Based Pre-training Enhanced MLP-Mixers for Large-scale Traffic Forecasting [30.055634767677823]
都市コンピューティングでは,交通ネットワークからの時系列データの正確かつ迅速な予測が重要である。
現在の研究制限は、モデル固有の非効率性と、モデル複雑さによる大規模トラフィックアプリケーションに対する不適合性のためである。
本稿では,このギャップを埋めるための新しいフレームワークPreMixerを提案する。MLP(Multi-Layer Perceptrons)の原理に基づく予測モデルと事前学習機構を特徴とする。
我々のフレームワークは,大規模トラフィックデータセットの広範な実験により検証され,高い計算効率を維持しながら,同等の最先端性能を実現している。
論文 参考訳(メタデータ) (2024-12-18T08:35:40Z) - ST-FiT: Inductive Spatial-Temporal Forecasting with Limited Training Data [59.78770412981611]
現実世界のアプリケーションでは、ほとんどのノードはトレーニング中に利用可能な時間データを持っていないかもしれない。
この問題に対処するために,ST-FiTというフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-14T17:51:29Z) - UrbanGPT: Spatio-Temporal Large Language Models [34.79169613947957]
本稿では,時空間エンコーダと命令調整パラダイムをシームレスに統合するUrbanPTを提案する。
我々は、様々な公開データセットに対して広範囲な実験を行い、異なる時間的予測タスクをカバーした。
結果は、慎重に設計されたアーキテクチャを持つUrbanPTが、最先端のベースラインを一貫して上回っていることを一貫して示しています。
論文 参考訳(メタデータ) (2024-02-25T12:37:29Z) - Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series
Forecasting Approach [71.67506068703314]
長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。
伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。
本研究では,都市におけるモビリティ予測の新たな視点について紹介する。
都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
論文 参考訳(メタデータ) (2023-12-04T07:39:05Z) - Spatio-Temporal Meta Contrastive Learning [18.289397543341707]
頑健で一般化可能なS時間グラフ表現を符号化する新しい時間的コントラスト学習フレームワークを提案する。
本稿では,交通犯罪予測における各種技術ベースラインの性能向上について述べる。
論文 参考訳(メタデータ) (2023-10-26T04:56:31Z) - ST-MLP: A Cascaded Spatio-Temporal Linear Framework with
Channel-Independence Strategy for Traffic Forecasting [47.74479442786052]
時空間グラフニューラルネットワーク(STGNN)に関する現在の研究は、しばしば複雑な設計を優先し、精度をわずかに向上させるだけで計算負荷を発生させる。
マルチ層パーセプトロン(MLP)モジュールと線形層のみをベースとした,簡潔な時空間モデルST-MLPを提案する。
実験の結果,ST-MLPは最先端STGNNと他のモデルよりも精度と計算効率の点で優れていた。
論文 参考訳(メタデータ) (2023-08-14T23:34:59Z) - STformer: A Noise-Aware Efficient Spatio-Temporal Transformer
Architecture for Traffic Forecasting [7.230415327436048]
本稿では,STformer という,交通予測の精度向上を目的とした新しいノイズ認識型リアルタイムアーキテクチャを提案する。
STformer はノイズ認識時空間自己アテンション (NATSA) とグラフベーススパース空間自己アテンション (GBS3A) の2つのコンポーネントから構成される。
4つの実世界のトラフィックデータセットの実験により、STformerは計算コストを下げて最先端のベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2021-12-06T02:17:39Z) - Temporal Predictive Coding For Model-Based Planning In Latent Space [80.99554006174093]
時間的に予測可能な環境要素を符号化するために,時間的予測符号化を用いた情報理論的手法を提案する。
本稿では,DMControl タスクの背景を複雑な情報を含む自然なビデオに置き換える,標準的な DMControl タスクの挑戦的な修正について評価する。
論文 参考訳(メタデータ) (2021-06-14T04:31:15Z) - Spatio-Temporal Graph Scattering Transform [54.52797775999124]
グラフニューラルネットワークは、十分な高品質のトレーニングデータがないために、現実のシナリオでは実用的ではないかもしれない。
我々は時間的データを解析するための数学的に設計された新しいフレームワークを考案した。
論文 参考訳(メタデータ) (2020-12-06T19:49:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。