論文の概要: Beyond Attention: Learning Spatio-Temporal Dynamics with Emergent Interpretable Topologies

• arxiv url: http://arxiv.org/abs/2506.00770v1
• Date: Sun, 01 Jun 2025 01:27:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-04 21:47:33.575444
• Title: Beyond Attention: Learning Spatio-Temporal Dynamics with Emergent Interpretable Topologies
• Title（参考訳）: 注意を超えて:創発的解釈可能なトポロジを用いた時空間ダイナミクスの学習
• Authors: Sai Vamsi Alisetti, Vikas Kalagi, Sanjukta Krishnagopal,
• Abstract要約: グラフ注意ネットワーク(GAT)は空間的依存をモデル化するために人気があるが、事前に定義された隣接構造と動的注意スコアに依存している。 マスクされた注意を、完全に学習可能な対称なノード相互作用行列に置き換える簡易な代替手段であるInterGATを提案する。 当社のフレームワークであるInterGAT-GRUは,ベースラインGAT-GRUよりも精度が高く,SZ-Taxiデータセットでは少なくとも21%,Los-Loopデータセットでは6%向上している。
• 参考スコア（独自算出の注目度）: 0.20482269513546453
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spatio-temporal forecasting is critical in applications such as traffic prediction, energy demand modeling, and weather monitoring. While Graph Attention Networks (GATs) are popular for modeling spatial dependencies, they rely on predefined adjacency structures and dynamic attention scores, introducing inductive biases and computational overhead that can obscure interpretability. We propose InterGAT, a simplified alternative to GAT that replaces masked attention with a fully learnable, symmetric node interaction matrix, capturing latent spatial relationships without relying on fixed graph topologies. Our framework, InterGAT-GRU, which incorporates a GRU-based temporal decoder, outperforms the baseline GAT-GRU in forecasting accuracy, achieving at least a 21% improvement on the SZ-Taxi dataset and a 6% improvement on the Los-Loop dataset across all forecasting horizons (15 to 60 minutes). Additionally, we observed reduction in training time by 60-70% compared to GAT-GRU baseline. Crucially, the learned interaction matrix reveals interpretable structure: it recovers sparse, topology-aware attention patterns that align with community structure. Spectral and clustering analyses show that the model captures both localized and global dynamics, offering insights into the functional topology driving predictions. This highlights how structure learning can simultaneously support prediction, computational efficiency, and topological interpretabil-ity in dynamic graph-based domains.
• Abstract（参考訳）: 時空間予測は、交通予測、エネルギー需要モデリング、気象モニタリングなどの応用において重要である。 グラフ注意ネットワーク(GAT)は空間的依存をモデル化するために人気があるが、それらは事前に定義された隣接構造と動的注意点に依存しており、帰納的バイアスや計算上のオーバーヘッドを導入し、解釈しにくくする。 マスクされた注意を、完全に学習可能な対称なノード相互作用行列に置き換え、固定グラフトポロジに頼ることなく、潜在空間関係をキャプチャする、GATの簡易な代替品であるInterGATを提案する。 GRUをベースとした時間デコーダを組み込んだInterGAT-GRUは,予測精度においてベースラインGAT-GRUより優れ,SZ-Taxiデータセットでは少なくとも21%,Los-Loopデータセットでは6%向上している(15～60分)。 また, GAT-GRUベースラインと比較してトレーニング時間を60～70%短縮した。 重要な点として、学習された相互作用マトリックスは解釈可能な構造を明らかにし、コミュニティ構造と整合した、スパースでトポロジに配慮した注意パターンを復元する。 スペクトルおよびクラスタリング分析は、このモデルが局所的および大域的ダイナミクスの両方を捉え、機能的トポロジー駆動予測に関する洞察を提供することを示している。 このことは、構造学習が動的グラフベースのドメインにおいて、予測、計算効率、トポロジ的インタープリタビティを同時にサポートする方法を強調している。

関連論文リスト

• Topology-Aware Conformal Prediction for Stream Networks [54.505880918607296]
  本研究では,ネットワークトポロジと時間的ダイナミクスを共形予測フレームワークに統合した新しいフレームワークであるspatio-Temporal Adaptive Conformal Inference (textttCISTA)を提案する。 この結果から,TextttCISTAは予測効率とカバレッジのバランスを効果的に保ち,既存のストリームネットワークの共形予測手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-03-06T21:21:15Z)
• Utilizing Graph Neural Networks for Effective Link Prediction in Microservice Architectures [0.0]
  本研究では、特にグラフ注意ネットワークGATを用いて、マイクロサービスコールグラフのリンク予測を行うグラフニューラルネットワークベースのアプローチを提案する。 インタラクションが散発的に発生し、しばしば頻度が低くなるソーシャルネットワークとは異なり、マイクロサービスコールグラフは、非常に頻繁で時間に敏感なインタラクションを伴います。 実世界のデータを用いて、AUC、Precision、Recall、F1 Scoreなどのパフォーマンス指標でモデルを評価し、マイクロサービスのインタラクションを予測する上で、その精度と堅牢性を実証した。
  論文  参考訳（メタデータ） (2025-01-25T01:51:30Z)
• SAMSGL: Series-Aligned Multi-Scale Graph Learning for Spatio-Temporal Forecasting [9.013416216828361]
  予測性能の向上を目的としたSGL(Series-Aligned Multi-Scale Graph Learning)フレームワークを提案する。 本研究では,非遅延グラフ信号の集約を容易にする一連のグラフ層を提案する。 気象・交通予測データセットについて実験を行い,その有効性と優越性を実証した。
  論文  参考訳（メタデータ） (2023-12-05T10:37:54Z)
• Deep Temporal Graph Clustering [77.02070768950145]
  深部時間グラフクラスタリング(GC)のための汎用フレームワークを提案する。 GCは、時間グラフの相互作用シーケンスに基づくバッチ処理パターンに適合するディープクラスタリング技術を導入している。 我々のフレームワークは、既存の時間グラフ学習手法の性能を効果的に向上させることができる。
  論文  参考訳（メタデータ） (2023-05-18T06:17:50Z)
• EasyDGL: Encode, Train and Interpret for Continuous-time Dynamic Graph Learning [92.71579608528907]
  本稿では,3つのモジュールから構成される使い勝手の良いパイプライン(EasyDGL)を設計することを目的とする。 EasyDGLは、進化するグラフデータからモデルが学習する周波数コンテンツの予測力を効果的に定量化することができる。
  論文  参考訳（メタデータ） (2023-03-22T06:35:08Z)
• Spatio-Temporal Latent Graph Structure Learning for Traffic Forecasting [6.428566223253948]
  S-Temporal Latent Graph Structure Learning Network (ST-LGSL) を提案する。 このモデルは多層パーセプトロンとK-Nearest Neighborに基づくグラフを用いて、データ全体から潜在グラフトポロジ情報を学習する。 kNNの接地確率行列に基づく依存関係-kNNと類似度メートル法により、ST-LGSLは地理的およびノード類似度に重点を置くトップを集約する。
  論文  参考訳（メタデータ） (2022-02-25T10:02:49Z)
• PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive Learning [109.84770951839289]
  歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。 本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
  論文  参考訳（メタデータ） (2021-03-17T08:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。