論文の概要: State Space Models on Temporal Graphs: A First-Principles Study

• arxiv url: http://arxiv.org/abs/2406.00943v1
• Date: Mon, 3 Jun 2024 02:56:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 02:37:18.840320
• Title: State Space Models on Temporal Graphs: A First-Principles Study
• Title（参考訳）: 時間グラフ上の状態空間モデル:第一原理的研究
• Authors: Jintang Li, Ruofan Wu, Xinzhou Jin, Boqun Ma, Liang Chen, Zibin Zheng,
• Abstract要約: 深層グラフ学習の研究は、動的挙動を示す実世界の複雑なシステムに応答して、静的グラフから時間グラフへ移行した。 RNNやTransformerのようなシーケンスモデルは、このような時間グラフをモデル化するための主要なバックボーンネットワークである。 時間グラフのダイナミクスをモデル化するためのグラフ状態空間モデルであるGraphSSMを開発した。
• 参考スコア（独自算出の注目度）: 30.531930200222423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Over the past few years, research on deep graph learning has shifted from static graphs to temporal graphs in response to real-world complex systems that exhibit dynamic behaviors. In practice, temporal graphs are formalized as an ordered sequence of static graph snapshots observed at discrete time points. Sequence models such as RNNs or Transformers have long been the predominant backbone networks for modeling such temporal graphs. Yet, despite the promising results, RNNs struggle with long-range dependencies, while transformers are burdened by quadratic computational complexity. Recently, state space models (SSMs), which are framed as discretized representations of an underlying continuous-time linear dynamical system, have garnered substantial attention and achieved breakthrough advancements in independent sequence modeling. In this work, we undertake a principled investigation that extends SSM theory to temporal graphs by integrating structural information into the online approximation objective via the adoption of a Laplacian regularization term. The emergent continuous-time system introduces novel algorithmic challenges, thereby necessitating our development of GraphSSM, a graph state space model for modeling the dynamics of temporal graphs. Extensive experimental results demonstrate the effectiveness of our GraphSSM framework across various temporal graph benchmarks.
• Abstract（参考訳）: 過去数年間、ディープグラフ学習の研究は静的グラフから時間グラフに移行し、動的な振る舞いを示す実世界の複雑なシステムに応答した。 実際には、時間グラフは、離散時間ポイントで観測された静的グラフスナップショットの順序列として形式化される。 RNNやTransformerのようなシーケンスモデルは、このような時間グラフをモデル化するための主要なバックボーンネットワークである。 しかし、有望な結果にもかかわらず、RNNは長距離依存に苦しむ一方、トランスフォーマーは二次計算の複雑さに悩まされる。 近年, 連続時間線形力学系の離散化表現として表される状態空間モデル (SSM) が注目され, 独立シーケンスモデリングにおいて飛躍的な進歩を遂げている。 本研究では,SSM理論を時間グラフに拡張する原理的な調査を行い,ラプラシアン正規化項の採用により,構造化情報をオンライン近似対象に組み込むことにより,時間グラフに拡張する。 創発的連続時間システムは、新しいアルゴリズム課題を導入し、時間グラフのダイナミクスをモデル化するためのグラフ状態空間モデルであるGraphSSMの開発を必要とします。 各種時間グラフベンチマークにおけるGraphSSMフレームワークの有効性を実験的に検証した。

関連論文リスト

• On The Temporal Domain of Differential Equation Inspired Graph Neural Networks [14.779420473274737]
  我々のモデルは、TDE-GNNと呼ばれ、典型的な一階法や二階法を超越した、幅広い時間的ダイナミクスを捉えることができる。 いくつかのグラフベンチマークで予め定義された時間的ダイナミクスを使用するのではなく,我々の手法を用いて時間的依存を学習する利点を実証する。
  論文  参考訳（メタデータ） (2024-01-20T01:12:57Z)
• TimeGraphs: Graph-based Temporal Reasoning [64.18083371645956]
  TimeGraphsは階層的時間グラフとして動的相互作用を特徴付ける新しいアプローチである。 提案手法は,コンパクトなグラフベース表現を用いて相互作用をモデル化し,多種多様な時間スケールでの適応推論を可能にする。 我々は,サッカーシミュレータ,抵抗ゲーム,MOMA人間活動データセットなど,複雑でダイナミックなエージェントインタラクションを持つ複数のデータセット上でTimeGraphsを評価する。
  論文  参考訳（メタデータ） (2024-01-06T06:26:49Z)
• Backbone-based Dynamic Graph Spatio-Temporal Network for Epidemic Forecasting [3.382729969842304]
  正確な流行予測は伝染病の予防に重要な課題である。 多くのディープラーニングベースのモデルは、空間情報を構築する際に静的グラフや動的グラフにのみフォーカスする。 バックボーンに基づく動的グラフ時空間ネットワーク(BDGSTN)という新しいモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-01T10:34:03Z)
• Dynamic Causal Explanation Based Diffusion-Variational Graph Neural Network for Spatio-temporal Forecasting [60.03169701753824]
  時間予測のための動的拡散型グラフニューラルネットワーク(DVGNN)を提案する。 提案したDVGNNモデルは最先端のアプローチよりも優れ,Root Mean Squared Errorの結果が優れている。
  論文  参考訳（メタデータ） (2023-05-16T11:38:19Z)
• Dynamic Graph Representation Learning with Neural Networks: A Survey [0.0]
  動的グラフ表現は新しい機械学習問題として現れた。 本稿では,動的グラフ学習に関連する問題とモデルをレビューすることを目的とする。
  論文  参考訳（メタデータ） (2023-04-12T09:39:17Z)
• EasyDGL: Encode, Train and Interpret for Continuous-time Dynamic Graph Learning [114.72818205974285]
  本稿では,3つのモジュールから構成される使い勝手の良いパイプライン(EasyDGL)を設計することを目的とする。 EasyDGLは、進化するグラフデータからモデルが学習する周波数コンテンツの予測力を効果的に定量化することができる。
  論文  参考訳（メタデータ） (2023-03-22T06:35:08Z)
• Space-Time Graph Neural Networks with Stochastic Graph Perturbations [100.31591011966603]
  時空間グラフニューラルネットワーク(ST-GNN)は、時間変動データの効率的なグラフ表現を学習する。 本稿では,ST-GNNの特性を再検討し,安定なグラフ安定性を示す。 解析の結果,ST-GNNは時間変化グラフ上での移動学習に適していることが示唆された。
  論文  参考訳（メタデータ） (2022-10-28T16:59:51Z)
• Continuous Temporal Graph Networks for Event-Based Graph Data [41.786721257905555]
  本研究では、時間グラフデータの連続的ダイナミクスを捉えるために、CTGN(Continuous Temporal Graph Networks)を提案する。 鍵となる考え方は、ニューラルネットワークの常微分方程式(ODE)を用いて、動的グラフ上のノード表現の連続的ダイナミクスを特徴づけることである。 帰納的タスクと帰納的タスクの両方の実験結果から,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-05-31T16:17:02Z)
• Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
  動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。 具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。 そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
  論文  参考訳（メタデータ） (2022-02-17T02:17:31Z)
• Efficient Dynamic Graph Representation Learning at Scale [66.62859857734104]
  本稿では,学習損失による時間依存性を選択的に表現し,計算の並列性を改善するための効率的な動的グラフ lEarning (EDGE) を提案する。 EDGEは、数百万のノードと数億の時間的イベントを持つ動的グラフにスケールでき、新しい最先端(SOTA)パフォーマンスを実現することができる。
  論文  参考訳（メタデータ） (2021-12-14T22:24:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。