論文の概要: Ordered GNN: Ordering Message Passing to Deal with Heterophily and Over-smoothing

• arxiv url: http://arxiv.org/abs/2302.01524v1
• Date: Fri, 3 Feb 2023 03:38:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-06 17:30:53.290886
• Title: Ordered GNN: Ordering Message Passing to Deal with Heterophily and Over-smoothing
• Title（参考訳）: Ordered GNN: メッセージのやりとりをヘテロフィと過度にスムースに処理
• Authors: Yunchong Song, Chenghu Zhou, Xinbing Wang, Zhouhan Lin
• Abstract要約: 本稿では,特定のホップ内でのメッセージパッシングを目標としたニューロンブロックを用いて,ノード表現に渡すメッセージの順序付けを提案する。 広範囲なデータセットを用いた実験結果から,同種および異種両方の条件下で,我々のモデルが同時に最先端を達成できることが示唆された。
• 参考スコア（独自算出の注目度）: 24.86998128873837
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Most graph neural networks follow the message passing mechanism. However, it faces the over-smoothing problem when multiple times of message passing is applied to a graph, causing indistinguishable node representations and prevents the model to effectively learn dependencies between farther-away nodes. On the other hand, features of neighboring nodes with different labels are likely to be falsely mixed, resulting in the heterophily problem. In this work, we propose to order the messages passing into the node representation, with specific blocks of neurons targeted for message passing within specific hops. This is achieved by aligning the hierarchy of the rooted-tree of a central node with the ordered neurons in its node representation. Experimental results on an extensive set of datasets show that our model can simultaneously achieve the state-of-the-art in both homophily and heterophily settings, without any targeted design. Moreover, its performance maintains pretty well while the model becomes really deep, effectively preventing the over-smoothing problem. Finally, visualizing the gating vectors shows that our model learns to behave differently between homophily and heterophily settings, providing an explainable graph neural model.
• Abstract（参考訳）: ほとんどのグラフニューラルネットワークはメッセージパッシング機構に従う。 しかし、複数のメッセージパッシングがグラフに適用されると、不明瞭なノード表現が発生し、モデルが遠く離れたノード間の依存関係を効果的に学習するのを防ぐため、余計な問題に直面する。 一方で、異なるラベルを持つ隣接ノードの特徴が誤混合される可能性があり、結果としてヘテロフィリー問題が発生する。 本研究では,特定のホップ内でのメッセージパッシングを目的としたニューロンの特定のブロックを用いて,ノード表現に渡すメッセージの順序付けを提案する。 これは、中央ノードのルートツリーの階層と順序付けられたニューロンのノード表現との整列によって達成される。 広範囲なデータセットによる実験結果から,対象とする設計をせずに,ホモフィリ設定とヘテロフィリ設定を同時に実現できることが示唆された。 さらに、モデルが本当に深くなる間、そのパフォーマンスは極めて良好であり、過剰なスムースな問題を効果的に防止します。 最後に、ゲーティングベクトルを可視化することで、我々のモデルはホモフィリ設定とヘテロフィリ設定の異なる振る舞いを学習し、説明可能なグラフニューラルモデルを提供する。

関連論文リスト

• DuoGNN: Topology-aware Graph Neural Network with Homophily and Heterophily Interaction-Decoupling [0.0]
  グラフニューラルネットワーク(GNN)は、自動疾患診断など、様々な医療画像の応用に有効であることが証明されている。 それらは本質的に2つの基本的な制限に悩まされる: まず、不明瞭なノードの埋め込みは、ヘテロ親和性ノードの集約に起因する。 我々は、トポロジを利用してホモ親和性およびヘテロ親和性のあるエッジを分離するスケーラブルで一般化可能なアーキテクチャであるDuoGNNを提案する。
  論文  参考訳（メタデータ） (2024-09-29T09:01:22Z)
• SF-GNN: Self Filter for Message Lossless Propagation in Deep Graph Neural Network [38.669815079957566]
  グラフニューラルネットワーク(GNN)は,グラフの伝播と集約によるグラフ構造情報の符号化を主目的とする。 等質グラフ、異質グラフ、知識グラフのようなより複雑なグラフなど、複数の種類のグラフの表現学習において優れた性能を発揮した。 深部GNNの性能劣化現象に対して,新しい視点を提案する。
  論文  参考訳（メタデータ） (2024-07-03T02:40:39Z)
• The Heterophilic Snowflake Hypothesis: Training and Empowering GNNs for Heterophilic Graphs [59.03660013787925]
  ヘテロフィリー・スノーフレーク仮説を導入し、ヘテロ親和性グラフの研究をガイドし、促進するための効果的なソリューションを提供する。 観察の結果,我々のフレームワークは多種多様なタスクのための多目的演算子として機能することがわかった。 さまざまなGNNフレームワークに統合することができ、パフォーマンスを詳細に向上し、最適なネットワーク深さを選択するための説明可能なアプローチを提供する。
  論文  参考訳（メタデータ） (2024-06-18T12:16:00Z)
• NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
  本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。 効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。 グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-06-14T09:21:15Z)
• Seq-HGNN: Learning Sequential Node Representation on Heterogeneous Graph [57.2953563124339]
  本稿では,シーケンシャルノード表現,すなわちSeq-HGNNを用いた新しい異種グラフニューラルネットワークを提案する。 Heterogeneous Graph Benchmark (HGB) と Open Graph Benchmark (OGB) の4つの広く使われているデータセットについて広範な実験を行った。
  論文  参考訳（メタデータ） (2023-05-18T07:27:18Z)
• GrannGAN: Graph annotation generative adversarial networks [72.66289932625742]
  本稿では,高次元分布をモデル化し,グラフスケルトンと整合した複雑な関係特徴構造を持つデータの新しい例を生成することの問題点を考察する。 提案するモデルは,タスクを2つのフェーズに分割することで,各データポイントのグラフ構造に制約されたデータ特徴を生成する問題に対処する。 第一に、与えられたグラフのノードに関連する機能の分布をモデル化し、第二に、ノードのフィーチャに条件付きでエッジ機能を補完する。
  論文  参考訳（メタデータ） (2022-12-01T11:49:07Z)
• Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
  典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。 そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
  論文  参考訳（メタデータ） (2021-11-19T08:54:21Z)
• Label-Wise Message Passing Graph Neural Network on Heterophilic Graphs [20.470934944907608]
  ホモフィリーあるいはヘテロフィリーなグラフでよく機能する新しいフレームワークについて検討する。 ラベルに関するメッセージパッシングでは、類似の擬似ラベルを持つ隣人が集約される。 また、ホモフィリー・ヘテロフィリーなグラフのモデルを自動的に選択するバイレベル最適化法を提案する。
  論文  参考訳（メタデータ） (2021-10-15T14:49:45Z)
• Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised Node Classification [59.06717774425588]
  本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。 出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。 本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
  論文  参考訳（メタデータ） (2021-07-27T19:47:53Z)
• Two Sides of the Same Coin: Heterophily and Oversmoothing in Graph Convolutional Neural Networks [33.25212467404069]
  理論的にはヘテロフィリーと過平滑化の関係を特徴づける。 我々は、署名メッセージと学習度補正を組み込むことで、隣人の特徴と度合いの相違に対処するモデルを設計する。 9つの実ネットワークに関する実験により,本モデルがヘテロフィリー条件下での最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2021-02-12T11:52:34Z)
• My Body is a Cage: the Role of Morphology in Graph-Based Incompatible Control [65.77164390203396]
  本稿では,グラフにエンコードされた形態情報により,その性能が向上しないことを示す既存手法に関する一連のアブリケーションを示す。 グラフ構造からGNNが抽出した利益は、メッセージパッシングのために生じる困難によって上回っているという仮説により、Amorpheusも提案する。
  論文  参考訳（メタデータ） (2020-10-05T08:37:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。