論文の概要: Graph Pointer Neural Networks
- arxiv url: http://arxiv.org/abs/2110.00973v1
- Date: Sun, 3 Oct 2021 10:18:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-05 15:26:06.948675
- Title: Graph Pointer Neural Networks
- Title(参考訳): グラフポインタニューラルネットワーク
- Authors: Tianmeng Yang, Yujing Wang, Zhihan Yue, Yaming Yang, Yunhai Tong, Jing
Bai
- Abstract要約: 上述の課題に対処するために,グラフポインタニューラルネットワーク(GPNN)を提案する。
我々は、多数のマルチホップ地区から最も関連性の高いノードを選択するためにポインタネットワークを利用する。
GPNNは最先端手法の分類性能を著しく向上させる。
- 参考スコア(独自算出の注目度): 11.656981519694218
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Networks (GNNs) have shown advantages in various graph-based
applications. Most existing GNNs assume strong homophily of graph structure and
apply permutation-invariant local aggregation of neighbors to learn a
representation for each node. However, they fail to generalize to heterophilic
graphs, where most neighboring nodes have different labels or features, and the
relevant nodes are distant. Few recent studies attempt to address this problem
by combining multiple hops of hidden representations of central nodes (i.e.,
multi-hop-based approaches) or sorting the neighboring nodes based on attention
scores (i.e., ranking-based approaches). As a result, these approaches have
some apparent limitations. On the one hand, multi-hop-based approaches do not
explicitly distinguish relevant nodes from a large number of multi-hop
neighborhoods, leading to a severe over-smoothing problem. On the other hand,
ranking-based models do not joint-optimize node ranking with end tasks and
result in sub-optimal solutions. In this work, we present Graph Pointer Neural
Networks (GPNN) to tackle the challenges mentioned above. We leverage a pointer
network to select the most relevant nodes from a large amount of multi-hop
neighborhoods, which constructs an ordered sequence according to the
relationship with the central node. 1D convolution is then applied to extract
high-level features from the node sequence. The pointer-network-based ranker in
GPNN is joint-optimized with other parts in an end-to-end manner. Extensive
experiments are conducted on six public node classification datasets with
heterophilic graphs. The results show that GPNN significantly improves the
classification performance of state-of-the-art methods. In addition, analyses
also reveal the privilege of the proposed GPNN in filtering out irrelevant
neighbors and reducing over-smoothing.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、グラフベースの様々なアプリケーションにおいて利点を示している。
ほとんどの既存のGNNはグラフ構造の強いホモフィリーを仮定し、各ノードの表現を学ぶために近傍の置換不変局所集合を適用する。
しかし、近隣のほとんどのノードが異なるラベルや特徴を持ち、関連するノードが遠い異種グラフに一般化することができない。
近年の研究では、中央ノードの隠された表現(マルチホップベースのアプローチ)を複数組み合わせたり、注意スコア(ランキングベースのアプローチ)に基づいて近隣ノードをソートすることでこの問題に対処しようとする研究はほとんどない。
その結果、これらのアプローチにはいくつかの明らかな制限がある。
一方で、マルチホップベースのアプローチは、関連するノードを多数のマルチホップ近傍と明確に区別しないため、過度にスムースな問題を引き起こしている。
一方、ランキングベースモデルでは、終端タスクとノードランキングを協調最適化せず、結果として準最適解が得られる。
本稿では,上記の課題に対処するため,GPNN(Graph Pointer Neural Networks)を提案する。
ポインターネットワークを利用して,多数のマルチホップ近傍から最も関連性の高いノードを選択し,中央ノードとの関係に応じて順序列を構成する。
1D畳み込みはノードシーケンスから高レベルの特徴を抽出するために適用される。
GPNNのポインタネットワークベースのローダは、エンドツーエンドで他の部分と共同最適化される。
ヘテロフレンドリグラフを用いた6つのパブリックノード分類データセットについて,広範な実験を行った。
その結果,gpnnは最先端手法の分類性能を大幅に向上させた。
さらに,無関係な隣人をフィルタリングし,過度なスムーシングを減らした上で,提案するGPNNの特権も明らかにした。
関連論文リスト
- Spectral Greedy Coresets for Graph Neural Networks [61.24300262316091]
ノード分類タスクにおける大規模グラフの利用は、グラフニューラルネットワーク(GNN)の現実的な応用を妨げる
本稿では,GNNのグラフコアセットについて検討し,スペクトル埋め込みに基づくエゴグラフの選択により相互依存の問題を回避する。
我々のスペクトルグレディグラフコアセット(SGGC)は、数百万のノードを持つグラフにスケールし、モデル事前学習の必要性を排除し、低ホモフィリーグラフに適用する。
論文 参考訳(メタデータ) (2024-05-27T17:52:12Z) - Degree-based stratification of nodes in Graph Neural Networks [66.17149106033126]
グラフニューラルネットワーク(GNN)アーキテクチャを変更して,各グループのノードに対して,重み行列を個別に学習する。
このシンプルな実装変更により、データセットとGNNメソッドのパフォーマンスが改善されているようだ。
論文 参考訳(メタデータ) (2023-12-16T14:09:23Z) - Exploiting Neighbor Effect: Conv-Agnostic GNNs Framework for Graphs with
Heterophily [58.76759997223951]
我々はフォン・ノイマンエントロピーに基づく新しい計量を提案し、GNNのヘテロフィリー問題を再検討する。
また、異種データセット上でのほとんどのGNNの性能を高めるために、Conv-Agnostic GNNフレームワーク(CAGNN)を提案する。
論文 参考訳(メタデータ) (2022-03-19T14:26:43Z) - Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。
そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
論文 参考訳(メタデータ) (2021-11-19T08:54:21Z) - On Local Aggregation in Heterophilic Graphs [11.100606980915144]
我々は,従来のGNNと多層パーセプトロンを適切に調整した手法が,ヘテロ親和性グラフ上の最近の長距離アグリゲーション手法の精度に適合しているか,あるいは超越しているかを示す。
本稿では,新しい情報理論グラフ計量であるNativeborhood Information Content(NIC)メトリックを提案する。
論文 参考訳(メタデータ) (2021-06-06T19:12:31Z) - Hop-Aware Dimension Optimization for Graph Neural Networks [11.341455005324104]
LADDER-GNNという,単純で効果的なラグスタイルのGNNアーキテクチャを提案する。
具体的には、異なるホップからメッセージを分離し、ノード表現を得るためにそれらを結合する前に異なる次元を割り当てます。
その結果,提案した単純なホップ認識型表現学習ソリューションは,ほとんどのデータセットで最先端のパフォーマンスを達成できることが示唆された。
論文 参考訳(メタデータ) (2021-05-30T10:12:56Z) - Higher-Order Attribute-Enhancing Heterogeneous Graph Neural Networks [67.25782890241496]
異種ネットワーク表現学習のための高次属性強化グラフニューラルネットワーク(HAEGNN)を提案する。
HAEGNNは、リッチで異質なセマンティクスのためのメタパスとメタグラフを同時に組み込む。
ノード分類、ノードクラスタリング、可視化における最先端の手法よりも優れたパフォーマンスを示す。
論文 参考訳(メタデータ) (2021-04-16T04:56:38Z) - NCGNN: Node-level Capsule Graph Neural Network [45.23653314235767]
ノードレベルカプセルグラフニューラルネットワーク(ncgnn)は、ノードをカプセル群として表現する。
凝集に適したカプセルを適応的に選択する新しい動的ルーティング手法を開発した。
NCGNNは、過度にスムースな問題に対処でき、分類のためのより良いノード埋め込みを生成することで、芸術の状態を上回ります。
論文 参考訳(メタデータ) (2020-12-07T06:46:17Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z) - Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。
本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。
このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
論文 参考訳(メタデータ) (2020-02-10T06:43:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。