論文の概要: ACMP: Allen-Cahn Message Passing for Graph Neural Networks with Particle Phase Transition

• arxiv url: http://arxiv.org/abs/2206.05437v3
• Date: Mon, 24 Apr 2023 01:52:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-26 00:14:53.560898
• Title: ACMP: Allen-Cahn Message Passing for Graph Neural Networks with Particle Phase Transition
• Title（参考訳）: acmp:素粒子相転移を有するグラフニューラルネットワークのためのアレン-カーンメッセージパッシング
• Authors: Yuelin Wang, Kai Yi, Xinliang Liu, Yu Guang Wang, Shi Jin
• Abstract要約: 本稿では,グラフニューラルネットワークのためのAllen-Cahnメッセージパッシング(ACMP)を提案する。 系の力学は、粒子を吹き飛ばすことなく分離できる反応拡散過程である。 オーバースムーシングメッセージの一般的なGNN問題を回避するGNNのモデルを提供する。
• 参考スコア（独自算出の注目度）: 24.59894322312533
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural message passing is a basic feature extraction unit for graph-structured data considering neighboring node features in network propagation from one layer to the next. We model such process by an interacting particle system with attractive and repulsive forces and the Allen-Cahn force arising in the modeling of phase transition. The dynamics of the system is a reaction-diffusion process which can separate particles without blowing up. This induces an Allen-Cahn message passing (ACMP) for graph neural networks where the numerical iteration for the particle system solution constitutes the message passing propagation. ACMP which has a simple implementation with a neural ODE solver can propel the network depth up to one hundred of layers with theoretically proven strictly positive lower bound of the Dirichlet energy. It thus provides a deep model of GNNs circumventing the common GNN problem of oversmoothing. GNNs with ACMP achieve state of the art performance for real-world node classification tasks on both homophilic and heterophilic datasets.
• Abstract（参考訳）: ニューラルメッセージパッシングは、ある層から次の層へのネットワーク伝搬における隣接ノードの特徴を考慮したグラフ構造化データの基本的特徴抽出ユニットである。 相転移のモデル化において生じるアレン・カーン力と引力を有する相互作用粒子系を用いて, この過程をモデル化する。 系のダイナミクスは反応拡散過程であり、吹き飛ばすことなく粒子を分離できる。 これにより、粒子系解の数値イテレーションがメッセージパッシング伝搬を構成するグラフニューラルネットワークのアレン・カーンメッセージパッシング(ACMP)が誘導される。 ニューラルODEソルバによる単純な実装を持つACMPは、理論上はディリクレエネルギーの厳密に正の低い境界を持つ100層までのネットワーク深さを伝搬することができる。 これにより、GNNのオーバースムーシング問題を回避するための深いモデルを提供する。 ACMPを持つGNNは、同好的および異好的なデータセット上の実世界のノード分類タスクにおける技術性能の状態を達成している。

関連論文リスト

• Discovering Message Passing Hierarchies for Mesh-Based Physics Simulation [61.89682310797067]
  DHMPを導入し,異なるノード選択手法を用いてメッセージパッシングネットワークの動的階層を学習する。 本実験はDHMPの有効性を実証し,近年の固定階層型メッセージパッシングネットワークと比較して平均22.7%改善した。
  論文  参考訳（メタデータ） (2024-10-03T15:18:00Z)
• Scalable and Consistent Graph Neural Networks for Distributed Mesh-based Data-driven Modeling [0.0]
  この研究は、メッシュベースのモデリングアプリケーションのための分散グラフニューラルネットワーク(GNN)方法論を開発する。 一貫性とは、1つのランク(1つの大きなグラフ)で訓練され評価されたGNNが、複数のランク(分割グラフ)での評価と算術的に等価であるという事実を指す。 NekRSメッシュのパーティショニングが分散GNNトレーニングと推論ルーチンにどのようにリンクできるかを示し、スケーラブルなメッシュベースのデータ駆動モデリングワークフローを実現する。
  論文  参考訳（メタデータ） (2024-10-02T15:22:27Z)
• Neural Message Passing Induced by Energy-Constrained Diffusion [79.9193447649011]
  本稿では,MPNNのメカニズムを理解するための原理的解釈可能なフレームワークとして,エネルギー制約付き拡散モデルを提案する。 データ構造が(グラフとして)観察されたり、部分的に観察されたり、完全に観察されなかったりした場合に、新しいモデルが有望な性能が得られることを示す。
  論文  参考訳（メタデータ） (2024-09-13T17:54:41Z)
• Bundle Neural Networks for message diffusion on graphs [10.018379001231356]
  結合ニューラルネットワーク(BuNN)は,任意のグラフ上の任意の特徴変換をインジェクティブな位置符号化で近似できることを示す。 また、BuNNが任意のグラフの族上の任意の特徴変換を近似して、任意の射影的位置エンコーディングを行えば、普遍的なノードレベルの表現性が得られることを証明した。
  論文  参考訳（メタデータ） (2024-05-24T13:28:48Z)
• Neighborhood Convolutional Network: A New Paradigm of Graph Neural Networks for Node Classification [12.062421384484812]
  グラフ畳み込みネットワーク(GCN)は、各畳み込み層における近傍の集約と特徴変換を分離する。 本稿では,周辺畳み込みネットワーク(NCN)と呼ばれるGCNの新しいパラダイムを提案する。 このようにして、モデルは、近隣情報を集約するための分離GCNの利点を継承すると同時に、より強力な特徴学習モジュールを開発することができる。
  論文  参考訳（メタデータ） (2022-11-15T02:02:51Z)
• Transformer with Implicit Edges for Particle-based Physics Simulation [135.77656965678196]
  Implicit Edges (TIE) を用いたトランスフォーマーは、素粒子相互作用のリッチなセマンティクスをエッジフリーでキャプチャする。 様々な複雑さと素材の多様な領域におけるモデルの評価を行った。
  論文  参考訳（メタデータ） (2022-07-22T03:45:29Z)
• Deep Architecture Connectivity Matters for Its Convergence: A Fine-Grained Analysis [94.64007376939735]
  我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。 接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
  論文  参考訳（メタデータ） (2022-05-11T17:43:54Z)
• Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing [0.0]
  超高速かつ低消費電力で動作可能な光電子人工ニューロンを提案する。 提案システムは、励起可能なトンネルダイオード(RTD)素子とナノスケール光源を組み合わせたものである。
  論文  参考訳（メタデータ） (2021-07-14T14:11:04Z)
• A tensor network representation of path integrals: Implementation and analysis [0.0]
  ファインマン・ヴァーノン効果関数を含む経路積分シミュレーションのテンソルネットワークに基づく新しい分解法を提案する。 影響関数によって導入された有限の一時的な非局所相互作用は、行列積状態表現を用いて非常に効率的に捉えることができる。 AP-TNPIフレームワークの柔軟性により、非平衡量子力学のための経路積分法ファミリーに新たな期待が持てる。
  論文  参考訳（メタデータ） (2021-06-23T16:41:54Z)
• Spatio-Temporal Inception Graph Convolutional Networks for Skeleton-Based Action Recognition [126.51241919472356]
  我々はスケルトンに基づく行動認識のためのシンプルで高度にモジュール化されたグラフ畳み込みネットワークアーキテクチャを設計する。 ネットワークは,空間的および時間的経路から多粒度情報を集約するビルディングブロックを繰り返すことで構築される。
  論文  参考訳（メタデータ） (2020-11-26T14:43:04Z)
• A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
  グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。 本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。 UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
  論文  参考訳（メタデータ） (2020-10-05T04:57:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。