論文の概要: ACMP: Allen-Cahn Message Passing for Graph Neural Networks with Particle
Phase Transition
- arxiv url: http://arxiv.org/abs/2206.05437v1
- Date: Sat, 11 Jun 2022 06:26:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-14 15:06:42.343531
- Title: ACMP: Allen-Cahn Message Passing for Graph Neural Networks with Particle
Phase Transition
- Title(参考訳): acmp:素粒子相転移を有するグラフニューラルネットワークのためのアレン-カーンメッセージパッシング
- Authors: Yuelin Wang, Kai Yi, Xinliang Liu, Yu Guang Wang, Shi Jin
- Abstract要約: Allen-Cahnメッセージパッシングは、グラフ構造化データの基本的な特徴抽出ユニットである。
我々は、相互作用粒子系と魅力的な反発力と相転移のモデル化で生じるアレン・カーン力により、そのような過程をモデル化する。
これにより、グラフニューラルネットワークに対するAllen-Cahnメッセージパッシング(ACMP)が発生する。
- 参考スコア(独自算出の注目度): 24.59894322312533
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural message passing is a basic feature extraction unit for
graph-structured data that takes account of the impact of neighboring node
features in network propagation from one layer to the next. We model such
process by an interacting particle system with attractive and repulsive forces
and the Allen-Cahn force arising in the modeling of phase transition. The
system is a reaction-diffusion process which can separate particles to
different clusters. This induces an Allen-Cahn message passing (ACMP) for graph
neural networks where the numerical iteration for the solution constitutes the
message passing propagation. The mechanism behind ACMP is phase transition of
particles which enables the formation of multi-clusters and thus GNNs
prediction for node classification. ACMP can propel the network depth to
hundreds of layers with theoretically proven strictly positive lower bound of
the Dirichlet energy. It thus provides a deep model of GNNs which circumvents
the common GNN problem of oversmoothing. Experiments for various real node
classification datasets, with possible high homophily difficulty, show the GNNs
with ACMP can achieve state of the art performance with no decay of Dirichlet
energy.
- Abstract(参考訳): ニューラルメッセージパッシングは、グラフ構造データの基本的特徴抽出ユニットであり、ある層から次の層へのネットワーク伝搬における隣り合うノードの特徴の影響を考慮に入れている。
相転移のモデル化において生じるアレン・カーン力と引力を有する相互作用粒子系を用いて, この過程をモデル化する。
この系は反応拡散過程であり、粒子を異なるクラスターに分離することができる。
これにより、グラフニューラルネットワークに対するallen-cahnメッセージパッシング(acmp)が引き起こされ、そこでは解に対する数値的なイテレーションがメッセージパッシング伝播を構成する。
ACMPの背後にあるメカニズムは、複数クラスタの形成を可能にする粒子の相転移であり、ノード分類のためのGNN予測である。
ACMPはディリクレエネルギーの厳密に正の低い境界を持つ数百の層にネットワーク深さを伝播することができる。
これによりGNNの深いモデルが提供され、GNNのオーバースムーシングの問題を回避している。
様々な実ノード分類データセットに対する実験は、高いホモフィリーの難しさがあり、ACMPを持つGNNがディリクレエネルギーの減衰を伴わずに芸術性能の状態を達成できることを示している。
関連論文リスト
- Discovering Message Passing Hierarchies for Mesh-Based Physics Simulation [61.89682310797067]
DHMPを導入し,異なるノード選択手法を用いてメッセージパッシングネットワークの動的階層を学習する。
本実験はDHMPの有効性を実証し,近年の固定階層型メッセージパッシングネットワークと比較して平均22.7%改善した。
論文 参考訳(メタデータ) (2024-10-03T15:18:00Z) - Scalable and Consistent Graph Neural Networks for Distributed Mesh-based Data-driven Modeling [0.0]
この研究は、メッシュベースのモデリングアプリケーションのための分散グラフニューラルネットワーク(GNN)方法論を開発する。
一貫性とは、1つのランク(1つの大きなグラフ)で訓練され評価されたGNNが、複数のランク(分割グラフ)での評価と算術的に等価であるという事実を指す。
NekRSメッシュのパーティショニングが分散GNNトレーニングと推論ルーチンにどのようにリンクできるかを示し、スケーラブルなメッシュベースのデータ駆動モデリングワークフローを実現する。
論文 参考訳(メタデータ) (2024-10-02T15:22:27Z) - Neural Message Passing Induced by Energy-Constrained Diffusion [79.9193447649011]
本稿では,MPNNのメカニズムを理解するための原理的解釈可能なフレームワークとして,エネルギー制約付き拡散モデルを提案する。
データ構造が(グラフとして)観察されたり、部分的に観察されたり、完全に観察されなかったりした場合に、新しいモデルが有望な性能が得られることを示す。
論文 参考訳(メタデータ) (2024-09-13T17:54:41Z) - Bundle Neural Networks for message diffusion on graphs [10.018379001231356]
結合ニューラルネットワーク(BuNN)は,任意のグラフ上の任意の特徴変換をインジェクティブな位置符号化で近似できることを示す。
また、BuNNが任意のグラフの族上の任意の特徴変換を近似して、任意の射影的位置エンコーディングを行えば、普遍的なノードレベルの表現性が得られることを証明した。
論文 参考訳(メタデータ) (2024-05-24T13:28:48Z) - Neighborhood Convolutional Network: A New Paradigm of Graph Neural
Networks for Node Classification [12.062421384484812]
グラフ畳み込みネットワーク(GCN)は、各畳み込み層における近傍の集約と特徴変換を分離する。
本稿では,周辺畳み込みネットワーク(NCN)と呼ばれるGCNの新しいパラダイムを提案する。
このようにして、モデルは、近隣情報を集約するための分離GCNの利点を継承すると同時に、より強力な特徴学習モジュールを開発することができる。
論文 参考訳(メタデータ) (2022-11-15T02:02:51Z) - Transformer with Implicit Edges for Particle-based Physics Simulation [135.77656965678196]
Implicit Edges (TIE) を用いたトランスフォーマーは、素粒子相互作用のリッチなセマンティクスをエッジフリーでキャプチャする。
様々な複雑さと素材の多様な領域におけるモデルの評価を行った。
論文 参考訳(メタデータ) (2022-07-22T03:45:29Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Resonant tunnelling diode nano-optoelectronic spiking nodes for
neuromorphic information processing [0.0]
超高速かつ低消費電力で動作可能な光電子人工ニューロンを提案する。
提案システムは、励起可能なトンネルダイオード(RTD)素子とナノスケール光源を組み合わせたものである。
論文 参考訳(メタデータ) (2021-07-14T14:11:04Z) - A tensor network representation of path integrals: Implementation and
analysis [0.0]
ファインマン・ヴァーノン効果関数を含む経路積分シミュレーションのテンソルネットワークに基づく新しい分解法を提案する。
影響関数によって導入された有限の一時的な非局所相互作用は、行列積状態表現を用いて非常に効率的に捉えることができる。
AP-TNPIフレームワークの柔軟性により、非平衡量子力学のための経路積分法ファミリーに新たな期待が持てる。
論文 参考訳(メタデータ) (2021-06-23T16:41:54Z) - Spatio-Temporal Inception Graph Convolutional Networks for
Skeleton-Based Action Recognition [126.51241919472356]
我々はスケルトンに基づく行動認識のためのシンプルで高度にモジュール化されたグラフ畳み込みネットワークアーキテクチャを設計する。
ネットワークは,空間的および時間的経路から多粒度情報を集約するビルディングブロックを繰り返すことで構築される。
論文 参考訳(メタデータ) (2020-11-26T14:43:04Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。