論文の概要: SIMGA: A Simple and Effective Heterophilous Graph Neural Network with
Efficient Global Aggregation
- arxiv url: http://arxiv.org/abs/2305.09958v1
- Date: Wed, 17 May 2023 05:35:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-18 17:22:38.971672
- Title: SIMGA: A Simple and Effective Heterophilous Graph Neural Network with
Efficient Global Aggregation
- Title(参考訳): SIMGA: 効率的なグローバルアグリゲーションを備えた単純で効果的なヘテロフィルスグラフニューラルネットワーク
- Authors: Haoyu Liu, Ningyi Liao, Siqiang Luo
- Abstract要約: グラフニューラルネットワーク(GNN)は、グラフ学習において大きな成功を収めているが、ヘテロフィリーに会うとパフォーマンス損失に悩まされる。
異種GNNのグローバルアグリゲーションを協調させる既存の試みは、通常、全グラフ情報を反復的に維持および更新する必要がある。
我々は,SimRank構造類似度測定をグローバルアグリゲーションとして統合したGNN構造であるSIMGAを提案する。
- 参考スコア(独自算出の注目度): 13.65255898968383
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural networks (GNNs) realize great success in graph learning but
suffer from performance loss when meeting heterophily, i.e. neighboring nodes
are dissimilar, due to their local and uniform aggregation. Existing attempts
in incoorporating global aggregation for heterophilous GNNs usually require
iteratively maintaining and updating full-graph information, which entails
$\mathcal{O}(n^2)$ computation efficiency for a graph with $n$ nodes, leading
to weak scalability to large graphs. In this paper, we propose SIMGA, a GNN
structure integrating SimRank structural similarity measurement as global
aggregation. The design of SIMGA is simple, yet it leads to promising results
in both efficiency and effectiveness. The simplicity of SIMGA makes it the
first heterophilous GNN model that can achieve a propagation efficiency
near-linear to $n$. We theoretically demonstrate its effectiveness by treating
SimRank as a new interpretation of GNN and prove that the aggregated node
representation matrix has expected grouping effect. The performances of SIMGA
are evaluated with 11 baselines on 12 benchmark datasets, usually achieving
superior accuracy compared with the state-of-the-art models. Efficiency study
reveals that SIMGA is up to 5$\times$ faster than the state-of-the-art method
on the largest heterophily dataset pokec with over 30 million edges.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、グラフ学習において大きな成功を収めているが、不均等に会うとパフォーマンスが低下する。
異種GNNのグローバルアグリゲーションの非協調化の試みでは、通常、$n$のノードを持つグラフに対して$\mathcal{O}(n^2)$の計算効率を必要とするフルグラフ情報を反復的に保持し更新する必要がある。
本稿では,SimRank構造類似度測定をグローバルアグリゲーションとして統合したGNN構造であるSIMGAを提案する。
SIMGAの設計は単純だが、効率と有効性の両方において有望な結果をもたらす。
SIMGAの単純さにより、伝播効率をほぼ直線的に$n$にできる最初の異種GNNモデルとなる。
我々は、SimRankをGNNの新たな解釈として扱うことにより、その効果を理論的に証明し、集約ノード表現行列がグループ化効果を持つことを示す。
simgaのパフォーマンスは、12のベンチマークデータセットで11のベースラインで評価され、通常、最先端モデルよりも優れた精度を達成している。
効率性の研究によると、SIMGAは3000万のエッジを持つ最大のヘテロフィリーデータセットポケックの最先端の手法よりも最大5$\times$高速である。
関連論文リスト
- Efficient Heterogeneous Graph Learning via Random Projection [65.65132884606072]
不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。
最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。
我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
論文 参考訳(メタデータ) (2023-10-23T01:25:44Z) - GCNH: A Simple Method For Representation Learning On Heterophilous
Graphs [4.051099980410583]
グラフニューラルネットワーク(GNN)は、ホモフィルグラフの学習に適している。
近年,異種グラフの性能向上を目的とした標準GNNアーキテクチャの拡張が提案されている。
ヘテロフィリィ(GCNH)のためのGCNを提案し,ヘテロフィリィシナリオとホモフィリィシナリオの両方に適用できる簡易かつ効果的なGNNアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-04-21T11:26:24Z) - Revisiting Heterophily For Graph Neural Networks [42.41238892727136]
グラフニューラルネットワーク(GNN)は、関係帰納バイアスに基づくグラフ構造を用いて基本ニューラルネットワーク(NN)を拡張する(ホモフィリー仮定)
最近の研究は、NNと比較してパフォーマンスが不十分な、非自明なデータセットのセットを特定している。
論文 参考訳(メタデータ) (2022-10-14T08:00:26Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳(メタデータ) (2022-09-23T05:24:18Z) - Simple and Efficient Heterogeneous Graph Neural Network [55.56564522532328]
不均一グラフニューラルネットワーク(HGNN)は、不均一グラフの豊富な構造的および意味的な情報をノード表現に埋め込む強力な能力を持つ。
既存のHGNNは、同種グラフ上のグラフニューラルネットワーク(GNN)から多くのメカニズム、特に注意機構と多層構造を継承する。
本稿では,これらのメカニズムを詳細に検討し,簡便かつ効率的なヘテロジニアスグラフニューラルネットワーク(SeHGNN)を提案する。
論文 参考訳(メタデータ) (2022-07-06T10:01:46Z) - Exploiting Neighbor Effect: Conv-Agnostic GNNs Framework for Graphs with
Heterophily [58.76759997223951]
我々はフォン・ノイマンエントロピーに基づく新しい計量を提案し、GNNのヘテロフィリー問題を再検討する。
また、異種データセット上でのほとんどのGNNの性能を高めるために、Conv-Agnostic GNNフレームワーク(CAGNN)を提案する。
論文 参考訳(メタデータ) (2022-03-19T14:26:43Z) - $p$-Laplacian Based Graph Neural Networks [27.747195341003263]
グラフネットワーク(GNN)は、グラフ上の半教師付きノード分類において優れた性能を示す。
我々は、離散正規化フレームワークからメッセージパッシング機構を導出する$p$GNNと呼ばれる新しい$p$LaplacianベースのGNNモデルを提案する。
新たなメッセージパッシング機構は低域通過フィルタと高域通過フィルタを同時に動作させることで,ホモ親和性グラフとヘテロ親和性グラフの両方に対して$p$GNNを有効にすることができることを示す。
論文 参考訳(メタデータ) (2021-11-14T13:16:28Z) - Is Homophily a Necessity for Graph Neural Networks? [50.959340355849896]
グラフニューラルネットワーク(GNN)は、多数のグラフベースの機械学習タスクに適した学習表現において大きな進歩を見せている。
GNNはホモフィリーな仮定によりうまく機能し、異種ノードが接続する異種グラフへの一般化に失敗したと広く信じられている。
最近の研究は、このような不均一な制限を克服する新しいアーキテクチャを設計し、ベースライン性能の低さと、この概念の証拠として、いくつかの異種グラフベンチマークデータセットに対するアーキテクチャの改善を引用している。
我々の実験では、標準グラフ畳み込みネットワーク(GCN)が実際よりも優れた性能を実現できることを実証的に見出した。
論文 参考訳(メタデータ) (2021-06-11T02:44:00Z) - Node Similarity Preserving Graph Convolutional Networks [51.520749924844054]
グラフニューラルネットワーク(GNN)は、ノード近傍の情報を集約し変換することで、グラフ構造とノードの特徴を探索する。
グラフ構造を利用してノード類似性を効果的かつ効率的に保存できるSimP-GCNを提案する。
本研究は,SimP-GCNが3つの分類グラフと4つの非補助グラフを含む7つのベンチマークデータセットに対して有効であることを示す。
論文 参考訳(メタデータ) (2020-11-19T04:18:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。