論文の概要: DYMAG: Rethinking Message Passing Using Dynamical-systems-based Waveforms
- arxiv url: http://arxiv.org/abs/2309.09924v5
- Date: Mon, 26 May 2025 21:16:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-28 17:05:57.932065
- Title: DYMAG: Rethinking Message Passing Using Dynamical-systems-based Waveforms
- Title(参考訳): DYMAG:動的システムベースの波形を用いたメッセージパッシングの再考
- Authors: Dhananjay Bhaskar, Xingzhi Sun, Yanlei Zhang, Charles Xu, Arman Afrasiyabi, Siddharth Viswanath, Oluwadamilola Fasina, Maximilian Nickel, Guy Wolf, Michael Perlmutter, Smita Krishnaswamy,
- Abstract要約: 本稿では,新しい形式のメッセージアグリゲーションに基づくグラフニューラルネットワークDYMAGを提案する。
熱方程式, 波動方程式, スプロットモデルなどの動的手法を用いて, より洗練された波形を生成できるノード特性を考案する。
これらの動的波形は、接続されたコンポーネント、接続性、そして機能のないサイクル構造を含むグラフに関する健全な情報をキャプチャできることを示す。
- 参考スコア(独自算出の注目度): 22.30051351738192
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present DYMAG, a graph neural network based on a novel form of message aggregation. Standard message-passing neural networks, which often aggregate local neighbors via mean-aggregation, can be regarded as convolving with a simple rectangular waveform which is non-zero only on 1-hop neighbors of every vertex. Here, we go beyond such local averaging. We will convolve the node features with more sophisticated waveforms generated using dynamics such as the heat equation, wave equation, and the Sprott model (an example of chaotic dynamics). Furthermore, we use snapshots of these dynamics at different time points to create waveforms at many effective scales. Theoretically, we show that these dynamic waveforms can capture salient information about the graph including connected components, connectivity, and cycle structures even with no features. Empirically, we test DYMAG on both real and synthetic benchmarks to establish that DYMAG outperforms baseline models on recovery of graph persistence, generating parameters of random graphs, as well as property prediction for proteins, molecules and materials. Our code is available at https://github.com/KrishnaswamyLab/DYMAG.
- Abstract(参考訳): 本稿では,新しい形式のメッセージアグリゲーションに基づくグラフニューラルネットワークDYMAGを提案する。
標準的なメッセージパッシングニューラルネットワークは、平均集約によってしばしば局所的な隣人を集約するが、すべての頂点の1ホップの隣り合わせでのみゼロではない単純な長方形波形と結合していると見なすことができる。
ここでは、そのような地域平均を超えます。
熱方程式、波動方程式、シュプロットモデル(カオス力学の例)などのダイナミクスを用いて、より洗練された波形が生成されるノード特徴を考案する。
さらに、異なる時点におけるこれらのダイナミクスのスナップショットを使用して、多くの効果的なスケールで波形を生成する。
理論的には、これらの動的波形は、接続されたコンポーネント、接続性、そして機能のないサイクル構造を含むグラフに関する健全な情報をキャプチャすることができる。
実験により,DYMAGがグラフの永続性回復,ランダムグラフのパラメータの生成,およびタンパク質,分子,材料の特性予測において,ベースラインモデルより優れていることを示すため,実および合成ベンチマーク上でDYMAGを試験した。
私たちのコードはhttps://github.com/KrishnaswamyLab/DYMAG.comで公開されています。
関連論文リスト
- State Space Models on Temporal Graphs: A First-Principles Study [30.531930200222423]
深層グラフ学習の研究は、動的挙動を示す実世界の複雑なシステムに応答して、静的グラフから時間グラフへ移行した。
RNNやTransformerのようなシーケンスモデルは、このような時間グラフをモデル化するための主要なバックボーンネットワークである。
時間グラフのダイナミクスをモデル化するためのグラフ状態空間モデルであるGraphSSMを開発した。
論文 参考訳(メタデータ) (2024-06-03T02:56:11Z) - Learning Coarse-Grained Dynamics on Graph [4.692217705215042]
グラフ上の粗粒度動的システムを特定するために,グラフニューラルネットワーク(GNN)非マルコフモデリングフレームワークを検討する。
本研究の主目的は, グラフトポロジを符号化する粗粒度相互作用係数に, モリ・ズワンチのメモリ項の先頭項がどのように依存するかを検査することによって, GNNアーキテクチャを体系的に決定することである。
論文 参考訳(メタデータ) (2024-05-15T13:25:34Z) - Advective Diffusion Transformers for Topological Generalization in Graph
Learning [69.2894350228753]
グラフ拡散方程式は、様々なグラフトポロジーの存在下で、どのように外挿して一般化するかを示す。
本稿では,新たなグラフエンコーダのバックボーンであるAdvective Diffusion Transformer (ADiT)を提案する。
論文 参考訳(メタデータ) (2023-10-10T08:40:47Z) - Dynamic Causal Explanation Based Diffusion-Variational Graph Neural
Network for Spatio-temporal Forecasting [60.03169701753824]
時間予測のための動的拡散型グラフニューラルネットワーク(DVGNN)を提案する。
提案したDVGNNモデルは最先端のアプローチよりも優れ,Root Mean Squared Errorの結果が優れている。
論文 参考訳(メタデータ) (2023-05-16T11:38:19Z) - Dynamic Graph Representation Learning via Edge Temporal States Modeling and Structure-reinforced Transformer [5.093187534912688]
本稿では,動的グラフ表現学習のための新しいフレームワークであるRecurrent Structure-Reinforced Graph Transformer (RSGT)を紹介する。
RSGTは、繰り返し学習パラダイムを通じて、グラフトポロジと進化力学の両方をコードする時間ノード表現をキャプチャする。
離散動的グラフ表現学習におけるRSGTの優れた性能を示し、動的リンク予測タスクにおける既存の手法よりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2023-04-20T04:12:50Z) - Learning Dynamic Graph Embeddings with Neural Controlled Differential
Equations [21.936437653875245]
本稿では,時間的相互作用を持つ動的グラフの表現学習に焦点を当てる。
本稿では,ノード埋め込みトラジェクトリの連続的動的進化を特徴付ける動的グラフに対する一般化微分モデルを提案する。
本フレームワークは,セグメントを統合せずにグラフの進化を動的に表現できる機能など,いくつかの望ましい特徴を示す。
論文 参考訳(メタデータ) (2023-02-22T12:59:38Z) - Graph Generation with Diffusion Mixture [57.78958552860948]
グラフの生成は、非ユークリッド構造の複雑な性質を理解する必要がある実世界のタスクにとって大きな課題である。
本稿では,拡散過程の最終グラフ構造を明示的に学習することにより,グラフのトポロジーをモデル化する生成フレームワークを提案する。
論文 参考訳(メタデータ) (2023-02-07T17:07:46Z) - Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。
具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。
そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
論文 参考訳(メタデータ) (2022-02-17T02:17:31Z) - Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs [77.33781731432163]
我々は,ノード表現の推論を目的とした双曲空間における動的グラフ表現を初めて学習する。
本稿では,HVGNNと呼ばれる新しいハイパーボリック変動グラフネットワークを提案する。
特に,動力学をモデル化するために,理論的に接地した時間符号化手法に基づく時間gnn(tgnn)を導入する。
論文 参考訳(メタデータ) (2021-04-06T01:44:15Z) - Disentangled Dynamic Graph Deep Generation [10.934180735890727]
本稿では,動的グラフ生成を実現するための因子化深部生成モデルの新たな枠組みを提案する。
ノード,エッジ,静的,動的因子間の条件独立性を特徴付けるために,様々な生成モデルを提案する。
複数のデータセットの実験では、提案したモデルの有効性が示されている。
論文 参考訳(メタデータ) (2020-10-14T17:52:49Z) - Structural Landmarking and Interaction Modelling: on Resolution Dilemmas
in Graph Classification [50.83222170524406]
解法ジレンマの統一概念に基づくグラフ分類における本質的難易度の研究」
構造ランドマークと相互作用モデリングのためのインダクティブニューラルネットワークモデルSLIM'を提案する。
論文 参考訳(メタデータ) (2020-06-29T01:01:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。