論文の概要: Expand and Compress: Exploring Tuning Principles for Continual Spatio-Temporal Graph Forecasting

• arxiv url: http://arxiv.org/abs/2410.12593v1
• Date: Wed, 16 Oct 2024 14:12:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-17 13:43:40.810197
• Title: Expand and Compress: Exploring Tuning Principles for Continual Spatio-Temporal Graph Forecasting
• Title（参考訳）: 拡張と圧縮: 継続的な時空間グラフ予測のためのチューニング原則の探索
• Authors: Wei Chen, Yuxuan Liang,
• Abstract要約: 本稿では,新しいプロンプトチューニングに基づく連続予測手法を提案する。 具体的には,基本時相グラフニューラルネットワークと連続的なプロンプトプールをメモリに格納する。 この手法により、モデルが広範囲な時間的データストリームから逐次学習し、対応する期間のタスクを達成できる。
• 参考スコア（独自算出の注目度）: 17.530885640317372
• License:
• Abstract: The widespread deployment of sensing devices leads to a surge in data for spatio-temporal forecasting applications such as traffic flow, air quality, and wind energy. Although spatio-temporal graph neural networks have achieved success in modeling various static spatio-temporal forecasting scenarios, real-world spatio-temporal data are typically received in a streaming manner, and the network continuously expands with the installation of new sensors. Thus, spatio-temporal forecasting in streaming scenarios faces dual challenges: the inefficiency of retraining models over newly arrived data and the detrimental effects of catastrophic forgetting over long-term history. To address these challenges, we propose a novel prompt tuning-based continuous forecasting method, following two fundamental tuning principles guided by empirical and theoretical analysis: expand and compress, which effectively resolve the aforementioned problems with lightweight tuning parameters. Specifically, we integrate the base spatio-temporal graph neural network with a continuous prompt pool, utilizing stored prompts (i.e., few learnable parameters) in memory, and jointly optimize them with the base spatio-temporal graph neural network. This method ensures that the model sequentially learns from the spatio-temporal data stream to accomplish tasks for corresponding periods. Extensive experimental results on multiple real-world datasets demonstrate the multi-faceted superiority of our method over the state-of-the-art baselines, including effectiveness, efficiency, universality, etc.
• Abstract（参考訳）: センサー装置の広範な展開は、交通流、空気質、風力エネルギーといった時空間予測用途のデータの増加につながる。 時空間グラフニューラルネットワークは様々な静的時空間予測シナリオをモデル化することに成功したが、実世界の時空間データはストリーミング方式で受信され、新しいセンサーの設置によってネットワークは継続的に拡張される。 このように、ストリーミングシナリオにおける時空間予測は、2つの課題に直面している。 これらの課題に対処するため,実験的および理論的解析によって導かれる2つの基本的チューニング原理に従って,提案手法を提案する。 具体的には、ベース時空間グラフニューラルネットワークを連続的なプロンプトプールと統合し、メモリに格納されたプロンプト(学習可能なパラメータがほとんどない)を活用し、ベース時空間グラフニューラルネットワークと共同で最適化する。 この方法は、時空間データストリームからモデルを逐次学習し、対応する期間のタスクを達成することを保証する。 複数の実世界のデータセットに対する大規模な実験結果から、有効性、効率性、普遍性など、最先端のベースラインに対する我々の手法の多面的優位性を示す。

関連論文リスト

• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• Modeling Randomly Observed Spatiotemporal Dynamical Systems [7.381752536547389]
  現在利用可能なニューラルネットワークベースのモデリングアプローチは、時間と空間でランダムに収集されたデータに直面したときに不足する。 そこで我々は,このようなランダムなサンプルデータを効果的に処理する新しい手法を開発した。 我々のモデルは、システムの力学と将来の観測のタイミングと位置の両方を予測するために、償却変分推論、ニューラルディファレンシャル方程式、ニューラルポイントプロセス、暗黙のニューラル表現といった技術を統合する。
  論文  参考訳（メタデータ） (2024-06-01T09:03:32Z)
• Spatio-Temporal Graph Neural Point Process for Traffic Congestion Event Prediction [16.530361912832763]
  本稿では,交通渋滞イベント予測のための時間グラフニューラルポイントプロセスフレームワークSTNPPを提案する。 提案手法は,既存の最先端手法と比較して優れた性能を実現する。
  論文  参考訳（メタデータ） (2023-11-15T01:22:47Z)
• Temporal Aggregation and Propagation Graph Neural Networks for Dynamic Representation [67.26422477327179]
  時間グラフは連続時間を通してノード間の動的相互作用を示す。 本研究では,周辺地域全体と時間的グラフ畳み込みの新たな手法を提案する。 提案するTAP-GNNは,予測性能とオンライン推論遅延の両面で,既存の時間グラフ手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-04-15T08:17:18Z)
• Scalable Spatiotemporal Graph Neural Networks [14.415967477487692]
  グラフニューラルネットワーク(GNN)は、しばしば予測アーキテクチャのコアコンポーネントである。 ほとんどの時間前GNNでは、計算複雑性はグラフ内のリンクの回数のシーケンスの長さの2乗係数までスケールする。 本稿では,時間的・空間的両方のダイナミックスを効率的に符号化するスケーラブルなアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-09-14T09:47:38Z)
• Temporal Domain Generalization with Drift-Aware Dynamic Neural Network [12.483886657900525]
  ドリフト対応動的ニューラルネットワーク(DRAIN)フレームワークを用いた時間領域一般化を提案する。 具体的には、この問題を、データとモデル力学の関係を共同でモデル化するベイズ的枠組みに定式化する。 モデルパラメータとデータ分布の時間的ドリフトをキャプチャし、将来のデータなしで将来モデルを予測することができる。
  論文  参考訳（メタデータ） (2022-05-21T20:01:31Z)
• Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
  動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。 具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。 そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
  論文  参考訳（メタデータ） (2022-02-17T02:17:31Z)
• Unified Spatio-Temporal Modeling for Traffic Forecasting using Graph Neural Network [2.7088996845250897]
  このような分解加群との複素時間的関係を抽出するのは時間的効果が低いと我々は主張する。 空間的および時間的アグリゲーションを行う交通予測のための統一S週間グラフ畳み込み(USTGCN)を提案する。 我々のモデルUSTGCNは3つの人気のあるベンチマークデータセットで最先端のパフォーマンスを上回ります。
  論文  参考訳（メタデータ） (2021-04-26T12:33:17Z)
• Stochastically forced ensemble dynamic mode decomposition for forecasting and analysis of near-periodic systems [65.44033635330604]
  本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。 固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。 電力グリッドからの負荷データを用いたテストケースの結果が提示される。
  論文  参考訳（メタデータ） (2020-10-08T20:25:52Z)
• Supporting Optimal Phase Space Reconstructions Using Neural Network Architecture for Time Series Modeling [68.8204255655161]
  位相空間特性を暗黙的に学習する機構を持つ人工ニューラルネットワークを提案する。 私たちのアプローチは、ほとんどの最先端戦略と同じくらいの競争力があるか、あるいは優れているかのどちらかです。
  論文  参考訳（メタデータ） (2020-06-19T21:04:47Z)
• A Multi-Channel Neural Graphical Event Model with Negative Evidence [76.51278722190607]
  イベントデータセットは、タイムライン上で不規則に発生するさまざまなタイプのイベントのシーケンスである。 基礎となる強度関数を推定するために,非パラメトリックディープニューラルネットワーク手法を提案する。
  論文  参考訳（メタデータ） (2020-02-21T23:10:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。