論文の概要: UniST: A Prompt-Empowered Universal Model for Urban Spatio-Temporal
Prediction
- arxiv url: http://arxiv.org/abs/2402.11838v1
- Date: Mon, 19 Feb 2024 05:04:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-20 18:14:48.930138
- Title: UniST: A Prompt-Empowered Universal Model for Urban Spatio-Temporal
Prediction
- Title(参考訳): UniST:都市時空間予測のためのプロンプト型ユニバーサルモデル
- Authors: Yuan Yuan, Jingtao Ding, Jie Feng, Depeng Jin, Yong Li
- Abstract要約: 都市時間予測のためのユニバーサルモデルUniSTを提案する。
i) 多様な時間的データ特性に対する柔軟性, (ii) 効果的な生成前訓練, (iii) 複雑な関係を捉える戦略により、UniSTが成功することを示す。
- 参考スコア(独自算出の注目度): 28.63676562607566
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Urban spatio-temporal prediction is crucial for informed decision-making,
such as transportation management, resource optimization, and urban planning.
Although pretrained foundation models for natural languages have experienced
remarkable breakthroughs, wherein one general-purpose model can tackle multiple
tasks across various domains, urban spatio-temporal modeling lags behind.
Existing approaches for urban prediction are usually tailored for specific
spatio-temporal scenarios, requiring task-specific model designs and extensive
in-domain training data. In this work, we propose a universal model, UniST, for
urban spatio-temporal prediction. Drawing inspiration from large language
models, UniST achieves success through: (i) flexibility towards diverse
spatio-temporal data characteristics, (ii) effective generative pre-training
with elaborated masking strategies to capture complex spatio-temporal
relationships, (iii) spatio-temporal knowledge-guided prompts that align and
leverage intrinsic and shared knowledge across scenarios. These designs
together unlock the potential of a one-for-all model for spatio-temporal
prediction with powerful generalization capability. Extensive experiments on 15
cities and 6 domains demonstrate the universality of UniST in advancing
state-of-the-art prediction performance, especially in few-shot and zero-shot
scenarios.
- Abstract(参考訳): 都市空間の時空間予測は交通管理,資源最適化,都市計画といった情報的意思決定に不可欠である。
自然言語のための事前訓練された基礎モデルは驚くべきブレークスルーを経験しており、1つの汎用モデルが様々な領域で複数のタスクをこなすことができるが、都市時空間モデリングは遅れている。
既存の都市予測のアプローチは通常、タスク固有のモデル設計と広範なドメイン内トレーニングデータを必要とする特定の時空間シナリオに合わせて調整される。
本研究では,都市時空間予測のためのユニバーサルモデルUniSTを提案する。
大規模な言語モデルからインスピレーションを得たUniSTは、以下の通り成功している。
一 多様な時空間データ特性に対する柔軟性
(II)複雑な時空間関係を捉えるための精巧なマスキング戦略による効果的な生成前訓練
(iii)シナリオ間で内在的かつ共有的な知識を調整・活用する時空間的知識誘導型プロンプト。
これらの設計は、強力な一般化能力を持つ時空間予測のための1対1のモデルの可能性を解き放ちます。
15都市と6つのドメインに関する広範囲な実験は、unistが最先端の予測性能、特に少数およびゼロショットシナリオにおける普遍性を示している。
関連論文リスト
- Towards Invariant Time Series Forecasting in Smart Cities [21.697069894721448]
本研究では,異なる都市環境下でのより堅牢な予測のために,不変表現を導出する手法を提案する。
本手法は, 気候モデル, 都市計画, スマートシティ資源管理など, 多様な分野に拡張することができる。
論文 参考訳(メタデータ) (2024-05-08T21:23:01Z) - A Survey on Diffusion Models for Time Series and Spatio-Temporal Data [92.1255811066468]
時系列データの研究は、時間とともにトレンドや異常を理解するために不可欠であり、様々な分野にわたる予測的な洞察を可能にする。
近年,拡散モデルが時系列やS時間データマイニングに広く応用されている。
時系列およびS時間データにおける拡散モデルの利用について概説し、それらをモデルカテゴリ、タスクタイプ、データモダリティ、実用的なアプリケーションドメインで分類する。
本調査は,医療,レコメンデーション,気候,エネルギー,オーディオ,交通など,さまざまな分野の応用を幅広くカバーしている。
論文 参考訳(メタデータ) (2024-04-29T17:19:40Z) - UrbanGPT: Spatio-Temporal Large Language Models [34.79169613947957]
本稿では,時空間エンコーダと命令調整パラダイムをシームレスに統合するUrbanPTを提案する。
我々は、様々な公開データセットに対して広範囲な実験を行い、異なる時間的予測タスクをカバーした。
結果は、慎重に設計されたアーキテクチャを持つUrbanPTが、最先端のベースラインを一貫して上回っていることを一貫して示しています。
論文 参考訳(メタデータ) (2024-02-25T12:37:29Z) - Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series
Forecasting Approach [71.67506068703314]
長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。
伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。
本研究では,都市におけるモビリティ予測の新たな視点について紹介する。
都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
論文 参考訳(メタデータ) (2023-12-04T07:39:05Z) - Towards Unifying Diffusion Models for Probabilistic Spatio-Temporal
Graph Learning [28.50648620744963]
既存のアプローチは、異なる学習タスクに個別に取り組み、Web時間データの本質的な不確実性に合わせてモデルを調整している。
我々は、不確実性を考慮した拡散フレームワーク内でのタスクに一様に対処するために、統一S時間拡散モデル(USTD)を導入する。
USTDは、ネットワークがタスク固有のものであることを示す共有時間エンコーダとアテンションに基づく記述で構成されている。
論文 参考訳(メタデータ) (2023-10-26T12:48:43Z) - TEMPO: Prompt-based Generative Pre-trained Transformer for Time Series Forecasting [24.834846119163885]
本稿では,時系列表現を効果的に学習できる新しいフレームワークTEMPOを提案する。
TEMPOは、様々な領域のデータから現実世界の時間現象を動的にモデル化する機能を拡張する。
論文 参考訳(メタデータ) (2023-10-08T00:02:25Z) - Unified Data Management and Comprehensive Performance Evaluation for
Urban Spatial-Temporal Prediction [Experiment, Analysis & Benchmark] [78.05103666987655]
この研究は、多様な都市空間時間データセットにアクセスし活用する際の課題に対処する。
都市空間・時空間のビッグデータ用に設計された統合ストレージフォーマットであるアトミックファイルを導入し,40種類の多様なデータセットでその有効性を検証する。
多様なモデルとデータセットを使用して広範な実験を行い、パフォーマンスリーダーボードを確立し、有望な研究方向性を特定する。
論文 参考訳(メタデータ) (2023-08-24T16:20:00Z) - Contextualizing MLP-Mixers Spatiotemporally for Urban Data Forecast at
Scale [57.38373754100004]
時空間データ(STUD)は複雑な相関パターンを示す。
STUDは大規模であることが多いため、実践者は有効性と効率のバランスをとる必要がある。
Nex-Mixerと呼ばれる別のパラダイムは、単純さと有効性の両方の可能性を秘めている。
論文 参考訳(メタデータ) (2023-07-04T05:19:19Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。
具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。
そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
論文 参考訳(メタデータ) (2022-02-17T02:17:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。