論文の概要: Self-Supervised Deconfounding Against Spatio-Temporal Shifts: Theory and
Modeling
- arxiv url: http://arxiv.org/abs/2311.12472v2
- Date: Wed, 6 Mar 2024 12:57:27 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-07 17:43:59.038098
- Title: Self-Supervised Deconfounding Against Spatio-Temporal Shifts: Theory and
Modeling
- Title(参考訳): 時空間シフトに対する自己監督的デコンウンディング:理論とモデリング
- Authors: Jiahao Ji, Wentao Zhang, Jingyuan Wang, Yue He and Chao Huang
- Abstract要約: 本研究では,過去の交通データ,将来の交通データ,外部STコンテキストの因果グラフを構築することで,問題を定式化する。
OODトラフィックデータにおける先行技術の失敗は、STコンテキストが共同創設者として機能すること、すなわち過去のデータと将来のデータに対する共通の原因によるものであることが示される。
本研究では,STEVE(Spatio-Temporal sElf-superVised dEconfounding)フレームワークを考案し,トラフィックデータを2つの不整合表現に符号化し,不変および変動STコンテキストを関連付ける。
- 参考スコア(独自算出の注目度): 48.09863133371918
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As an important application of spatio-temporal (ST) data, ST traffic
forecasting plays a crucial role in improving urban travel efficiency and
promoting sustainable development. In practice, the dynamics of traffic data
frequently undergo distributional shifts attributed to external factors such as
time evolution and spatial differences. This entails forecasting models to
handle the out-of-distribution (OOD) issue where test data is distributed
differently from training data. In this work, we first formalize the problem by
constructing a causal graph of past traffic data, future traffic data, and
external ST contexts. We reveal that the failure of prior arts in OOD traffic
data is due to ST contexts acting as a confounder, i.e., the common cause for
past data and future ones. Then, we propose a theoretical solution named
Disentangled Contextual Adjustment (DCA) from a causal lens. It differentiates
invariant causal correlations against variant spurious ones and deconfounds the
effect of ST contexts. On top of that, we devise a Spatio-Temporal
sElf-superVised dEconfounding (STEVE) framework. It first encodes traffic data
into two disentangled representations for associating invariant and variant ST
contexts. Then, we use representative ST contexts from three conceptually
different perspectives (i.e., temporal, spatial, and semantic) as
self-supervised signals to inject context information into both
representations. In this way, we improve the generalization ability of the
learned context-oriented representations to OOD ST traffic forecasting.
Comprehensive experiments on four large-scale benchmark datasets demonstrate
that our STEVE consistently outperforms the state-of-the-art baselines across
various ST OOD scenarios.
- Abstract(参考訳): 時空間(ST)データの重要な応用として,ST交通予測は都市交通効率の向上と持続可能な開発を促進する上で重要な役割を担っている。
実際には、交通データのダイナミクスは、時間進化や空間差といった外部要因に起因する分布シフトを頻繁に行う。
これは、テストデータがトレーニングデータと異なる方法で分散されるOOD(out-of-distriion)問題を扱うための予測モデルを必要とする。
本研究では,過去の交通データ,将来の交通データ,外部STコンテキストの因果グラフを構築することにより,まず問題を定式化する。
oodトラヒックデータの先行技術が失敗した原因は、stコンテクストが共同設立者、すなわち過去のデータと将来のデータに共通する原因として作用するためである。
そこで我々は、因果レンズからDCA(Disentangled Contextual Adjustment)という理論解を提案する。
これは変種スプリアスと不変因果相関を区別し、stコンテクストの効果を解消する。
さらに,STEVE(Spatio-Temporal sElf-superVised dEconfounding)フレームワークを考案した。
まず、トラフィックデータを2つの不等角表現にエンコードし、不変および変種stコンテキストを関連付ける。
次に,3つの概念的に異なる視点(時間,空間,意味)から表されるSTコンテキストを自己教師信号として使用し,両表現に文脈情報を注入する。
このようにして、OODSTトラフィック予測に対する学習コンテキスト指向表現の一般化能力を向上させる。
4つの大規模なベンチマークデータセットに関する総合的な実験により、STEVEは様々なST OODシナリオにおける最先端のベースラインを一貫して上回ります。
関連論文リスト
- MITA: Bridging the Gap between Model and Data for Test-time Adaptation [68.62509948690698]
テスト時間適応(TTA)は、モデルの一般化性を高めるための有望なパラダイムとして登場した。
本稿では,Met-In-The-MiddleをベースとしたMITAを提案する。
論文 参考訳(メタデータ) (2024-10-12T07:02:33Z) - FASTopic: Pretrained Transformer is a Fast, Adaptive, Stable, and Transferable Topic Model [76.509837704596]
本稿では,高速で適応的で,安定で,移動可能なトピックモデルであるFASTopicを提案する。
我々はDSR(Dual Semantic-Relation Reconstruction)を用いて潜在トピックをモデル化する。
また, セマンティック関係を最適輸送計画として正規化するためのETP(Embedding Transport Plan)を提案する。
論文 参考訳(メタデータ) (2024-05-28T09:06:38Z) - FlashST: A Simple and Universal Prompt-Tuning Framework for Traffic Prediction [22.265095967530296]
FlashSTは、トレーニング済みのモデルに適応して、さまざまなデータセットの特定の特性を一般化するフレームワークである。
事前トレーニングとダウンストリームデータのシフトを捉え、さまざまなシナリオへの効果的な適応を促進する。
実証的な評価は、さまざまなシナリオにおけるFlashSTの有効性を示している。
論文 参考訳(メタデータ) (2024-05-28T07:18:52Z) - Multi-Factor Spatio-Temporal Prediction based on Graph Decomposition
Learning [31.812810009108684]
本稿では,様々な要因の下で部分的なSTデータの進化を予測する多要素ST予測タスクを提案する。
多要素ST予測のための新しいモデル非依存フレームワークである分解グラフ学習(STGDL)を創出する。
その結果,様々なSTモデルの予測誤差を平均9.41%削減できることがわかった。
論文 参考訳(メタデータ) (2023-10-16T13:12:27Z) - Spatio-Temporal Contrastive Self-Supervised Learning for POI-level Crowd
Flow Inference [23.8192952068949]
S-temporal data(CSST)のための新しいコントラスト型自己学習フレームワークを提案する。
提案手法は,POI(Points of Interest)とその距離に基づく空間隣接グラフの構築から始める。
我々は、類似した事例から対象部分グラフの表現を予測するために、スワップした予測手法を採用する。
実世界の2つのデータセットで実施した実験では、広範囲のノイズデータに基づいて事前トレーニングされたCSSTが、ゼロからトレーニングされたモデルより一貫して優れていることを示した。
論文 参考訳(メタデータ) (2023-09-06T02:51:24Z) - Spatio-Temporal Self-Supervised Learning for Traffic Flow Prediction [36.77135502344546]
本稿では,新しいST-SSL(Spatio-Supervised Learning)トラフィック予測フレームワークを提案する。
我々のST-SSLは、時空間の畳み込みによって、空間と時間にまたがる情報を符号化する統合モジュール上に構築されている。
4つのベンチマークデータセットの実験では、ST-SSLは様々な最先端のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2022-12-07T10:02:01Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。
EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - Towards Robust and Adaptive Motion Forecasting: A Causal Representation
Perspective [72.55093886515824]
本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。
我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。
合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
論文 参考訳(メタデータ) (2021-11-29T18:59:09Z) - ProSTformer: Pre-trained Progressive Space-Time Self-attention Model for
Traffic Flow Forecasting [6.35012051925346]
2つの問題により、交通流の予測にアプローチが効果的に適用されない。
まず、依存関係を判断し、次に、ProSTformerという時空の自己アテンションメカニズムを取ります。
ProSTformerは、RMSEの6つの最先端メソッドよりも、大規模なデータセット上で、より良く、あるいは同等に動作する。
論文 参考訳(メタデータ) (2021-11-03T12:20:08Z) - Interpretable Time-series Representation Learning With Multi-Level
Disentanglement [56.38489708031278]
Disentangle Time Series (DTS)は、シーケンシャルデータのための新しいDisentanglement Enhanceingフレームワークである。
DTSは時系列の解釈可能な表現として階層的意味概念を生成する。
DTSは、セマンティック概念の解釈性が高く、下流アプリケーションで優れたパフォーマンスを実現します。
論文 参考訳(メタデータ) (2021-05-17T22:02:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。