論文の概要: ACMP: Allen-Cahn Message Passing for Graph Neural Networks with Particle
Phase Transition
- arxiv url: http://arxiv.org/abs/2206.05437v3
- Date: Mon, 24 Apr 2023 01:52:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-26 00:14:53.560898
- Title: ACMP: Allen-Cahn Message Passing for Graph Neural Networks with Particle
Phase Transition
- Title(参考訳): acmp:素粒子相転移を有するグラフニューラルネットワークのためのアレン-カーンメッセージパッシング
- Authors: Yuelin Wang, Kai Yi, Xinliang Liu, Yu Guang Wang, Shi Jin
- Abstract要約: 本稿では,グラフニューラルネットワークのためのAllen-Cahnメッセージパッシング(ACMP)を提案する。
系の力学は、粒子を吹き飛ばすことなく分離できる反応拡散過程である。
オーバースムーシングメッセージの一般的なGNN問題を回避するGNNのモデルを提供する。
- 参考スコア(独自算出の注目度): 24.59894322312533
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural message passing is a basic feature extraction unit for
graph-structured data considering neighboring node features in network
propagation from one layer to the next. We model such process by an interacting
particle system with attractive and repulsive forces and the Allen-Cahn force
arising in the modeling of phase transition. The dynamics of the system is a
reaction-diffusion process which can separate particles without blowing up.
This induces an Allen-Cahn message passing (ACMP) for graph neural networks
where the numerical iteration for the particle system solution constitutes the
message passing propagation. ACMP which has a simple implementation with a
neural ODE solver can propel the network depth up to one hundred of layers with
theoretically proven strictly positive lower bound of the Dirichlet energy. It
thus provides a deep model of GNNs circumventing the common GNN problem of
oversmoothing. GNNs with ACMP achieve state of the art performance for
real-world node classification tasks on both homophilic and heterophilic
datasets.
- Abstract(参考訳): ニューラルメッセージパッシングは、ある層から次の層へのネットワーク伝搬における隣接ノードの特徴を考慮したグラフ構造化データの基本的特徴抽出ユニットである。
相転移のモデル化において生じるアレン・カーン力と引力を有する相互作用粒子系を用いて, この過程をモデル化する。
系のダイナミクスは反応拡散過程であり、吹き飛ばすことなく粒子を分離できる。
これにより、粒子系解の数値イテレーションがメッセージパッシング伝搬を構成するグラフニューラルネットワークのアレン・カーンメッセージパッシング(ACMP)が誘導される。
ニューラルODEソルバによる単純な実装を持つACMPは、理論上はディリクレエネルギーの厳密に正の低い境界を持つ100層までのネットワーク深さを伝搬することができる。
これにより、GNNのオーバースムーシング問題を回避するための深いモデルを提供する。
ACMPを持つGNNは、同好的および異好的なデータセット上の実世界のノード分類タスクにおける技術性能の状態を達成している。
関連論文リスト
- Bundle Neural Networks for message diffusion on graphs [10.018379001231356]
結合ニューラルネットワーク(BuNN)は,任意のグラフ上の任意の特徴変換をインジェクティブな位置符号化で近似できることを示す。
また、BuNNが任意のグラフの族上の任意の特徴変換を近似して、任意の射影的位置エンコーディングを行えば、普遍的なノードレベルの表現性が得られることを証明した。
論文 参考訳(メタデータ) (2024-05-24T13:28:48Z) - Neighborhood Convolutional Network: A New Paradigm of Graph Neural
Networks for Node Classification [12.062421384484812]
グラフ畳み込みネットワーク(GCN)は、各畳み込み層における近傍の集約と特徴変換を分離する。
本稿では,周辺畳み込みネットワーク(NCN)と呼ばれるGCNの新しいパラダイムを提案する。
このようにして、モデルは、近隣情報を集約するための分離GCNの利点を継承すると同時に、より強力な特徴学習モジュールを開発することができる。
論文 参考訳(メタデータ) (2022-11-15T02:02:51Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳(メタデータ) (2022-09-23T05:24:18Z) - Transformer with Implicit Edges for Particle-based Physics Simulation [135.77656965678196]
Implicit Edges (TIE) を用いたトランスフォーマーは、素粒子相互作用のリッチなセマンティクスをエッジフリーでキャプチャする。
様々な複雑さと素材の多様な領域におけるモデルの評価を行った。
論文 参考訳(メタデータ) (2022-07-22T03:45:29Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Spiking Graph Convolutional Networks [19.36064180392385]
SpikingGCNは、GCNの埋め込みとSNNの生体忠実性特性を統合することを目的としたエンドツーエンドフレームワークである。
ニューロモルフィックチップ上でのスパイキングGCNは、グラフデータ解析にエネルギー効率の明確な利点をもたらすことを示す。
論文 参考訳(メタデータ) (2022-05-05T16:44:36Z) - Resonant tunnelling diode nano-optoelectronic spiking nodes for
neuromorphic information processing [0.0]
超高速かつ低消費電力で動作可能な光電子人工ニューロンを提案する。
提案システムは、励起可能なトンネルダイオード(RTD)素子とナノスケール光源を組み合わせたものである。
論文 参考訳(メタデータ) (2021-07-14T14:11:04Z) - A tensor network representation of path integrals: Implementation and
analysis [0.0]
ファインマン・ヴァーノン効果関数を含む経路積分シミュレーションのテンソルネットワークに基づく新しい分解法を提案する。
影響関数によって導入された有限の一時的な非局所相互作用は、行列積状態表現を用いて非常に効率的に捉えることができる。
AP-TNPIフレームワークの柔軟性により、非平衡量子力学のための経路積分法ファミリーに新たな期待が持てる。
論文 参考訳(メタデータ) (2021-06-23T16:41:54Z) - Spatio-Temporal Inception Graph Convolutional Networks for
Skeleton-Based Action Recognition [126.51241919472356]
我々はスケルトンに基づく行動認識のためのシンプルで高度にモジュール化されたグラフ畳み込みネットワークアーキテクチャを設計する。
ネットワークは,空間的および時間的経路から多粒度情報を集約するビルディングブロックを繰り返すことで構築される。
論文 参考訳(メタデータ) (2020-11-26T14:43:04Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。