論文の概要: EasyST: A Simple Framework for Spatio-Temporal Prediction
- arxiv url: http://arxiv.org/abs/2409.06748v1
- Date: Tue, 10 Sep 2024 11:40:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-12 17:19:05.408599
- Title: EasyST: A Simple Framework for Spatio-Temporal Prediction
- Title(参考訳): EasyST: 時空間予測のためのシンプルなフレームワーク
- Authors: Jiabin Tang, Wei Wei, Lianghao Xia, Chao Huang,
- Abstract要約: 本稿では,時空間予測のための簡単なフレームワークであるEasySTパラダイムを提案する。
複雑な時間的GNNからの知識を蒸留することにより、軽量で堅牢なマルチ層パーセプトロン(MLP)の一般化を学習する。
EasySTは、効率と精度の点で最先端のアプローチを超越している。
- 参考スコア(独自算出の注目度): 18.291117879544945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spatio-temporal prediction is a crucial research area in data-driven urban computing, with implications for transportation, public safety, and environmental monitoring. However, scalability and generalization challenges remain significant obstacles. Advanced models often rely on Graph Neural Networks to encode spatial and temporal correlations, but struggle with the increased complexity of large-scale datasets. The recursive GNN-based message passing schemes used in these models hinder their training and deployment in real-life urban sensing scenarios. Moreover, long-spanning large-scale spatio-temporal data introduce distribution shifts, necessitating improved generalization performance. To address these challenges, we propose a simple framework for spatio-temporal prediction - EasyST paradigm. It learns lightweight and robust Multi-Layer Perceptrons (MLPs) by effectively distilling knowledge from complex spatio-temporal GNNs. We ensure robust knowledge distillation by integrating the spatio-temporal information bottleneck with teacher-bounded regression loss, filtering out task-irrelevant noise and avoiding erroneous guidance. We further enhance the generalization ability of the student model by incorporating spatial and temporal prompts to provide downstream task contexts. Evaluation on three spatio-temporal datasets for urban computing tasks demonstrates that EasyST surpasses state-of-the-art approaches in terms of efficiency and accuracy. The implementation code is available at: https://github.com/HKUDS/EasyST.
- Abstract(参考訳): 時空間予測はデータ駆動型都市コンピューティングにおいて重要な研究領域であり、交通、公共安全、環境モニタリングに影響を及ぼす。
しかし、スケーラビリティと一般化の課題は依然として大きな障害である。
高度なモデルは、しばしば空間的および時間的相関を符号化するためにグラフニューラルネットワークに依存するが、大規模データセットの複雑さの増加に苦慮している。
これらのモデルで使用される再帰的なGNNベースのメッセージパッシングスキームは、実際の都市センシングシナリオにおけるトレーニングと展開を妨げる。
さらに、長期にわたる大規模な時空間データには、分散シフトを導入し、一般化性能を向上させる必要がある。
これらの課題に対処するため,時空間予測のための簡単なフレームワーク EasyST パラダイムを提案する。
複雑な時空間GNNからの知識を効果的に蒸留することにより、軽量で堅牢なマルチ層パーセプトロン(MLP)を学習する。
時空間情報ボトルネックを教師が拘束した回帰損失と統合し,タスク関連ノイズを除去し,誤った誘導を避けることで,堅牢な知識蒸留を実現する。
我々は、下流のタスクコンテキストを提供するために、空間的および時間的プロンプトを取り入れることで、学生モデルの一般化能力をさらに強化する。
都市コンピューティングタスクのための3つの時空間データセットの評価は、EasySTが効率と精度の点で最先端のアプローチを超越していることを示している。
実装コードは、https://github.com/HKUDS/EasyST.comで公開されている。
関連論文リスト
- Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。
最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。
我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
論文 参考訳(メタデータ) (2024-07-18T15:44:23Z) - UrbanGPT: Spatio-Temporal Large Language Models [34.79169613947957]
本稿では,時空間エンコーダと命令調整パラダイムをシームレスに統合するUrbanPTを提案する。
我々は、様々な公開データセットに対して広範囲な実験を行い、異なる時間的予測タスクをカバーした。
結果は、慎重に設計されたアーキテクチャを持つUrbanPTが、最先端のベースラインを一貫して上回っていることを一貫して示しています。
論文 参考訳(メタデータ) (2024-02-25T12:37:29Z) - Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series
Forecasting Approach [71.67506068703314]
長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。
伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。
本研究では,都市におけるモビリティ予測の新たな視点について紹介する。
都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
論文 参考訳(メタデータ) (2023-12-04T07:39:05Z) - GATGPT: A Pre-trained Large Language Model with Graph Attention Network
for Spatiotemporal Imputation [19.371155159744934]
実世界の環境では、センサーの故障やデータ転送エラーなどの問題により、そのようなデータには欠落する要素がしばしば含まれる。
時間的計算の目的は、観測された時系列における固有の空間的および時間的関係を理解することによって、これらの欠落値を推定することである。
伝統的に、複雑な時間的計算は特定のアーキテクチャに依存しており、適用可能性の制限と高い計算複雑性に悩まされている。
対照的に、我々のアプローチは、事前訓練された大規模言語モデル(LLM)を複雑な時間的インプットに統合し、画期的なフレームワークであるGATGPTを導入している。
論文 参考訳(メタデータ) (2023-11-24T08:15:11Z) - Spatio-Temporal Meta Contrastive Learning [18.289397543341707]
頑健で一般化可能なS時間グラフ表現を符号化する新しい時間的コントラスト学習フレームワークを提案する。
本稿では,交通犯罪予測における各種技術ベースラインの性能向上について述べる。
論文 参考訳(メタデータ) (2023-10-26T04:56:31Z) - ST-MLP: A Cascaded Spatio-Temporal Linear Framework with
Channel-Independence Strategy for Traffic Forecasting [47.74479442786052]
時空間グラフニューラルネットワーク(STGNN)に関する現在の研究は、しばしば複雑な設計を優先し、精度をわずかに向上させるだけで計算負荷を発生させる。
マルチ層パーセプトロン(MLP)モジュールと線形層のみをベースとした,簡潔な時空間モデルST-MLPを提案する。
実験の結果,ST-MLPは最先端STGNNと他のモデルよりも精度と計算効率の点で優れていた。
論文 参考訳(メタデータ) (2023-08-14T23:34:59Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - STformer: A Noise-Aware Efficient Spatio-Temporal Transformer
Architecture for Traffic Forecasting [7.230415327436048]
本稿では,STformer という,交通予測の精度向上を目的とした新しいノイズ認識型リアルタイムアーキテクチャを提案する。
STformer はノイズ認識時空間自己アテンション (NATSA) とグラフベーススパース空間自己アテンション (GBS3A) の2つのコンポーネントから構成される。
4つの実世界のトラフィックデータセットの実験により、STformerは計算コストを下げて最先端のベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2021-12-06T02:17:39Z) - Temporal Predictive Coding For Model-Based Planning In Latent Space [80.99554006174093]
時間的に予測可能な環境要素を符号化するために,時間的予測符号化を用いた情報理論的手法を提案する。
本稿では,DMControl タスクの背景を複雑な情報を含む自然なビデオに置き換える,標準的な DMControl タスクの挑戦的な修正について評価する。
論文 参考訳(メタデータ) (2021-06-14T04:31:15Z) - Spatio-Temporal Graph Scattering Transform [54.52797775999124]
グラフニューラルネットワークは、十分な高品質のトレーニングデータがないために、現実のシナリオでは実用的ではないかもしれない。
我々は時間的データを解析するための数学的に設計された新しいフレームワークを考案した。
論文 参考訳(メタデータ) (2020-12-06T19:49:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。