論文の概要: Revisiting Heterophily For Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2210.07606v1
- Date: Fri, 14 Oct 2022 08:00:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 18:03:17.625459
- Title: Revisiting Heterophily For Graph Neural Networks
- Title(参考訳): グラフニューラルネットワークの再検討
- Authors: Sitao Luan, Chenqing Hua, Qincheng Lu, Jiaqi Zhu, Mingde Zhao, Shuyuan
Zhang, Xiao-Wen Chang, Doina Precup
- Abstract要約: グラフニューラルネットワーク(GNN)は、関係帰納バイアスに基づくグラフ構造を用いて基本ニューラルネットワーク(NN)を拡張する(ホモフィリー仮定)
最近の研究は、NNと比較してパフォーマンスが不十分な、非自明なデータセットのセットを特定している。
- 参考スコア(独自算出の注目度): 42.41238892727136
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) extend basic Neural Networks (NNs) by using
graph structures based on the relational inductive bias (homophily assumption).
While GNNs have been commonly believed to outperform NNs in real-world tasks,
recent work has identified a non-trivial set of datasets where their
performance compared to NNs is not satisfactory. Heterophily has been
considered the main cause of this empirical observation and numerous works have
been put forward to address it. In this paper, we first revisit the widely used
homophily metrics and point out that their consideration of only graph-label
consistency is a shortcoming. Then, we study heterophily from the perspective
of post-aggregation node similarity and define new homophily metrics, which are
potentially advantageous compared to existing ones. Based on this
investigation, we prove that some harmful cases of heterophily can be
effectively addressed by local diversification operation. Then, we propose the
Adaptive Channel Mixing (ACM), a framework to adaptively exploit aggregation,
diversification and identity channels node-wisely to extract richer localized
information for diverse node heterophily situations. ACM is more powerful than
the commonly used uni-channel framework for node classification tasks on
heterophilic graphs and is easy to be implemented in baseline GNN layers. When
evaluated on 10 benchmark node classification tasks, ACM-augmented baselines
consistently achieve significant performance gain, exceeding state-of-the-art
GNNs on most tasks without incurring significant computational burden.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、関係帰納バイアス(ホモフィリー仮定)に基づいたグラフ構造を用いて、基本ニューラルネットワーク(NN)を拡張する。
GNNは、現実世界のタスクにおいてNNより優れていると一般的に信じられているが、最近の研究では、NNと比較してパフォーマンスが不十分な、非自明なデータセット群が特定されている。
ヘテロフィリーは、この経験的観察の主要な原因と考えられており、それに対応するために多くの研究が進められている。
本稿では,まず,広く使用されているホモフィリメトリックを再検討し,グラフラベル一貫性のみを考慮に入れることが欠点であることを指摘する。
次に,ポストアグリゲーションノードの類似性の観点からヘテロフィリシスを研究し,既存のものと比較して有利な新しいホモフィリメトリックを定義する。
そこで本研究では, 局所的多様化操作により, 有害なヘテロフィリー症例が効果的に対処できることを実証する。
そこで我々は,アダプティブ・チャネル・ミキシング (ACM) を提案し,アグリゲーション, 多様化, アイデンティティ・チャネルをノードワイズに適応的に活用し, 多様なノードヘテロフィリー状況に対して, よりリッチなローカライズされた情報を抽出する。
ACMは、異種グラフ上のノード分類タスクのための一般的なユニチャネルフレームワークよりも強力で、ベースラインのGNN層で容易に実装できる。
10のベンチマークノード分類タスクで評価すると、ACMが強化したベースラインは、計算負荷を伴わずに、ほとんどのタスクで最先端のGNNよりも高いパフォーマンスを実現している。
関連論文リスト
- Learn from Heterophily: Heterophilous Information-enhanced Graph Neural Network [4.078409998614025]
論理的に異なるラベルを持つノードは意味論的意味に基づいて接続される傾向があるが、グラフニューラルネットワーク(GNN)は、しばしば最適以下の性能を示す。
ヘテロフィリーに固有の意味情報をグラフ学習において効果的に活用できることを示す。
ノード分布を利用して異種情報を統合する新しいグラフ構造を構築する革新的な手法であるHiGNNを提案する。
論文 参考訳(メタデータ) (2024-03-26T03:29:42Z) - Evolving Computation Graphs [20.094508902123778]
グラフニューラルネットワーク(GNN)は、特にホモフィリーを示すデータに対して、関係データのモデリングに成功している。
ヘテロ親和性データセット上でGNNを強化する新しい手法であるEvolving Computation Graphs (ECGs)を提案する。
論文 参考訳(メタデータ) (2023-06-22T14:58:18Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳(メタデータ) (2022-09-23T05:24:18Z) - Exploiting Neighbor Effect: Conv-Agnostic GNNs Framework for Graphs with
Heterophily [58.76759997223951]
我々はフォン・ノイマンエントロピーに基づく新しい計量を提案し、GNNのヘテロフィリー問題を再検討する。
また、異種データセット上でのほとんどのGNNの性能を高めるために、Conv-Agnostic GNNフレームワーク(CAGNN)を提案する。
論文 参考訳(メタデータ) (2022-03-19T14:26:43Z) - Is Heterophily A Real Nightmare For Graph Neural Networks To Do Node
Classification? [44.71818395535755]
グラフニューラルネットワーク(GNN)は、帰納的バイアス(ホモフィリー仮定)に基づくグラフ構造を用いて基本ニューラルネットワーク(NN)を拡張する
グラフに依存しないNNに対するGNNのパフォーマンス上の利点は、一般的には満足できないようである。
ヘテロフィリーが主な原因と見なされ、それに対応するために多くの研究が進められている。
論文 参考訳(メタデータ) (2021-09-12T23:57:05Z) - Is Homophily a Necessity for Graph Neural Networks? [50.959340355849896]
グラフニューラルネットワーク(GNN)は、多数のグラフベースの機械学習タスクに適した学習表現において大きな進歩を見せている。
GNNはホモフィリーな仮定によりうまく機能し、異種ノードが接続する異種グラフへの一般化に失敗したと広く信じられている。
最近の研究は、このような不均一な制限を克服する新しいアーキテクチャを設計し、ベースライン性能の低さと、この概念の証拠として、いくつかの異種グラフベンチマークデータセットに対するアーキテクチャの改善を引用している。
我々の実験では、標準グラフ畳み込みネットワーク(GCN)が実際よりも優れた性能を実現できることを実証的に見出した。
論文 参考訳(メタデータ) (2021-06-11T02:44:00Z) - On Local Aggregation in Heterophilic Graphs [11.100606980915144]
我々は,従来のGNNと多層パーセプトロンを適切に調整した手法が,ヘテロ親和性グラフ上の最近の長距離アグリゲーション手法の精度に適合しているか,あるいは超越しているかを示す。
本稿では,新しい情報理論グラフ計量であるNativeborhood Information Content(NIC)メトリックを提案する。
論文 参考訳(メタデータ) (2021-06-06T19:12:31Z) - Graph Neural Networks with Heterophily [40.23690407583509]
我々は、ホモフィリーなグラフとヘテロフィリーなグラフのGNNを一般化するCPGNNと呼ばれる新しいフレームワークを提案する。
フレームワークの互換性行列を(純粋なホモフィリーを表す)同一性に置き換えると、GCNに還元されることを示す。
論文 参考訳(メタデータ) (2020-09-28T18:29:36Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。