論文の概要: UrbanGPT: Spatio-Temporal Large Language Models

• arxiv url: http://arxiv.org/abs/2403.00813v3
• Date: Sun, 19 May 2024 01:58:03 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-21 23:10:31.925666
• Title: UrbanGPT: Spatio-Temporal Large Language Models
• Title（参考訳）: UrbanGPT:時空間大言語モデル
• Authors: Zhonghang Li, Lianghao Xia, Jiabin Tang, Yong Xu, Lei Shi, Long Xia, Dawei Yin, Chao Huang,
• Abstract要約: 本稿では,時空間エンコーダと命令調整パラダイムをシームレスに統合するUrbanPTを提案する。 我々は、様々な公開データセットに対して広範囲な実験を行い、異なる時間的予測タスクをカバーした。 結果は、慎重に設計されたアーキテクチャを持つUrbanPTが、最先端のベースラインを一貫して上回っていることを一貫して示しています。
• 参考スコア（独自算出の注目度）: 34.79169613947957
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Spatio-temporal prediction aims to forecast and gain insights into the ever-changing dynamics of urban environments across both time and space. Its purpose is to anticipate future patterns, trends, and events in diverse facets of urban life, including transportation, population movement, and crime rates. Although numerous efforts have been dedicated to developing neural network techniques for accurate predictions on spatio-temporal data, it is important to note that many of these methods heavily depend on having sufficient labeled data to generate precise spatio-temporal representations. Unfortunately, the issue of data scarcity is pervasive in practical urban sensing scenarios. Consequently, it becomes necessary to build a spatio-temporal model with strong generalization capabilities across diverse spatio-temporal learning scenarios. Taking inspiration from the remarkable achievements of large language models (LLMs), our objective is to create a spatio-temporal LLM that can exhibit exceptional generalization capabilities across a wide range of downstream urban tasks. To achieve this objective, we present the UrbanGPT, which seamlessly integrates a spatio-temporal dependency encoder with the instruction-tuning paradigm. This integration enables LLMs to comprehend the complex inter-dependencies across time and space, facilitating more comprehensive and accurate predictions under data scarcity. To validate the effectiveness of our approach, we conduct extensive experiments on various public datasets, covering different spatio-temporal prediction tasks. The results consistently demonstrate that our UrbanGPT, with its carefully designed architecture, consistently outperforms state-of-the-art baselines. These findings highlight the potential of building large language models for spatio-temporal learning, particularly in zero-shot scenarios where labeled data is scarce.
• Abstract（参考訳）: 時空間予測は、時間と空間の両方にわたる都市環境の変化を予測し、洞察することを目的としている。 その目的は、交通、人口移動、犯罪率など、都市生活の様々な側面における将来のパターン、傾向、出来事を予測することである。 時空間データの正確な予測のためのニューラルネットワーク技術の開発に多くの努力が注がれているが、これらの手法の多くは時空間の正確な表現を生成するのに十分なラベル付きデータを持つことに大きく依存していることに注意する必要がある。 残念なことに、実際の都市センシングシナリオでは、データの不足が大きな問題となっている。 したがって、多様な時空間学習シナリオにまたがる強力な一般化能力を持つ時空間モデルを構築する必要がある。 大規模言語モデル(LLM)の卓越した成果からインスピレーションを得て,広範囲の下流都市課題にまたがる卓越した一般化能力を発揮できる時空間LLMを作ることが目的である。 この目的を達成するために,時空間依存エンコーダと命令チューニングパラダイムをシームレスに統合するUrbanGPTを提案する。 この統合により、LLMは時間と空間の複雑な相互依存性を理解でき、データの不足下でより包括的で正確な予測を可能にします。 提案手法の有効性を検証するため,様々な公開データセットに対して,時空間予測タスクを網羅した広範囲な実験を行った。 結果は、慎重に設計されたアーキテクチャを持つUrbanGPTが、最先端のベースラインを一貫して上回っていることを一貫して示しています。 これらの結果は、特にラベル付きデータが不足しているゼロショットシナリオにおいて、時空間学習のための大規模言語モデルを構築する可能性を示している。

関連論文リスト

• EasyST: A Simple Framework for Spatio-Temporal Prediction [18.291117879544945]
  本稿では,時空間予測のための簡単なフレームワークであるEasySTパラダイムを提案する。 複雑な時間的GNNからの知識を蒸留することにより、軽量で堅牢なマルチ層パーセプトロン(MLP)の一般化を学習する。 EasySTは、効率と精度の点で最先端のアプローチを超越している。
  論文  参考訳（メタデータ） (2024-09-10T11:40:01Z)
• SMA-Hyper: Spatiotemporal Multi-View Fusion Hypergraph Learning for Traffic Accident Prediction [2.807532512532818]
  現在のデータ駆動モデルは、しばしばデータ空間と多様な都市データソースの統合に苦しむ。 本稿では,交通事故予測のための動的学習フレームワークを提案する。 これは、高次のクロスリージョン学習を可能にするデュアル適応グラフ学習機構を組み込んでいる。 また、事故データと都市機能の複数のビューを融合させる事前注意機構も採用している。
  論文  参考訳（メタデータ） (2024-07-24T21:10:34Z)
• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• UniST: A Prompt-Empowered Universal Model for Urban Spatio-Temporal Prediction [26.69233687863233]
  都市時間予測は、交通管理、資源最適化、出現応答などの情報的意思決定に不可欠である。 大規模言語モデルによる広範囲のシナリオにまたがる一般都市時間予測のためのユニバーサルモデルUniSTを紹介する。
  論文  参考訳（メタデータ） (2024-02-19T05:04:11Z)
• Rethinking Urban Mobility Prediction: A Super-Multivariate Time Series Forecasting Approach [71.67506068703314]
  長期の都市移動予測は、都市施設やサービスの効果的管理において重要な役割を担っている。 伝統的に、都市移動データはビデオとして構成され、経度と緯度を基本的なピクセルとして扱う。 本研究では,都市におけるモビリティ予測の新たな視点について紹介する。 都市移動データを従来のビデオデータとして単純化するのではなく、複雑な時系列と見なす。
  論文  参考訳（メタデータ） (2023-12-04T07:39:05Z)
• Unified Data Management and Comprehensive Performance Evaluation for Urban Spatial-Temporal Prediction [Experiment, Analysis & Benchmark] [78.05103666987655]
  この研究は、多様な都市空間時間データセットにアクセスし活用する際の課題に対処する。 都市空間・時空間のビッグデータ用に設計された統合ストレージフォーマットであるアトミックファイルを導入し,40種類の多様なデータセットでその有効性を検証する。 多様なモデルとデータセットを使用して広範な実験を行い、パフォーマンスリーダーボードを確立し、有望な研究方向性を特定する。
  論文  参考訳（メタデータ） (2023-08-24T16:20:00Z)
• Learning Dynamic Graphs from All Contextual Information for Accurate Point-of-Interest Visit Forecasting [9.670949636600035]
  Busyness Graph Neural Network (BysGNN) は、基礎となるマルチコンテキスト相関を学習し、発見するために設計された時間グラフニューラルネットワークである。 文脈的,時間的,空間的な信号をすべて取り入れることで,最先端の予測モデルに対する予測精度の大幅な向上を観察する。
  論文  参考訳（メタデータ） (2023-06-28T05:14:03Z)
• LibCity: A Unified Library Towards Efficient and Comprehensive Urban Spatial-Temporal Prediction [74.08181247675095]
  既存の分野には、さまざまなフォーマットで使用が難しいオープンソースデータなど、制限がある。 我々は、研究者に信頼性のある実験ツールと便利な開発フレームワークを提供するオープンソースライブラリ、LibCityを提案する。
  論文  参考訳（メタデータ） (2023-04-27T17:19:26Z)
• Predicting Future Occupancy Grids in Dynamic Environment with Spatio-Temporal Learning [63.25627328308978]
  本稿では,将来の占有予測を生成するための時間的予測ネットワークパイプラインを提案する。 現在のSOTAと比較して、我々の手法は3秒の長い水平線での占有を予測している。 我々は、さらなる研究を支援するために、nulisに基づくグリッド占有データセットを公開します。
  論文  参考訳（メタデータ） (2022-05-06T13:45:32Z)
• Temporal Predictive Coding For Model-Based Planning In Latent Space [80.99554006174093]
  時間的に予測可能な環境要素を符号化するために,時間的予測符号化を用いた情報理論的手法を提案する。 本稿では,DMControl タスクの背景を複雑な情報を含む自然なビデオに置き換える,標準的な DMControl タスクの挑戦的な修正について評価する。
  論文  参考訳（メタデータ） (2021-06-14T04:31:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。