論文の概要: On Performance Discrepancies Across Local Homophily Levels in Graph
Neural Networks
- arxiv url: http://arxiv.org/abs/2306.05557v1
- Date: Thu, 8 Jun 2023 21:01:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-12 15:24:46.591166
- Title: On Performance Discrepancies Across Local Homophily Levels in Graph
Neural Networks
- Title(参考訳): グラフニューラルネットワークにおける局所ホモフィリーレベルの性能差について
- Authors: Donald Loveland, Jiong Zhu, Mark Heimann, Benjamin Fish, Michael T.
Shaub, Danai Koutra
- Abstract要約: ノードの局所的ホモフィリーレベルがグラフのグローバルなホモフィリーレベルからテスト時にずれたときのGNNの性能について検討する。
a)GNNはグラフの大域的ホモフィリーから逸脱するノードの一般化に失敗する可能性があり、(b)高局所ホモフィリーは必ずしもノードの高性能を必ずしも示さないこと、(c)ヘテロフィリーを扱うために設計されたGNNモデルは、様々なヘテロフィリー範囲にわたってより良い性能を発揮する。
- 参考スコア(独自算出の注目度): 11.653946520514161
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Research on GNNs has highlighted a relationship between high homophily (i.e.,
the tendency for nodes of a similar class to connect) and strong predictive
performance in node classification. However, recent research has found the
relationship to be more nuanced, demonstrating that even simple GNNs can learn
in certain heterophilous settings. To bridge the gap between these findings, we
revisit the assumptions made in previous works and identify that datasets are
often treated as having a constant homophily level across nodes. To align
closer to real-world datasets, we theoretically and empirically study the
performance of GNNs when the local homophily level of a node deviates at
test-time from the global homophily level of its graph. To aid our theoretical
analysis, we introduce a new parameter to the preferential attachment model
commonly used in homophily analysis to enable the control of local homophily
levels in generated graphs, enabling a systematic empirical study on how local
homophily can impact performance. We additionally perform a granular analysis
on a number of real-world datasets with varying global homophily levels. Across
our theoretical and empirical results, we find that (a)~ GNNs can fail to
generalize to test nodes that deviate from the global homophily of a graph,
(b)~ high local homophily does not necessarily confer high performance for a
node, and (c)~ GNN models designed to handle heterophily are able to perform
better across varying heterophily ranges irrespective of the dataset's global
homophily. These findings point towards a GNN's over-reliance on the global
homophily used for training and motivates the need to design GNNs that can
better generalize across large local homophily ranges.
- Abstract(参考訳): gnnの研究は、高い相同性(つまり類似クラスのノードが接続する傾向)とノード分類における強力な予測性能との関係を強調している。
しかし、最近の研究では、この関係はよりニュアンスが高いことが分かっており、単純なGNNでもある種の異性愛的な環境で学習できることが示されている。
これらの結果のギャップを埋めるために,先行研究における仮定を再検討し,データセットがノード間で一定のホモフィリーレベルを持つものとして扱われることが多いことを明らかにする。
実世界のデータセットに近づくために,ノードの局所的ホモフィリーレベルがグラフのグローバルなホモフィリーレベルからテスト時にずれたとき,GNNの性能を理論的かつ実証的に研究する。
本理論解析を支援するために, 局所ホモフィリーレベル制御を可能にするため, 局所ホモフィリーが性能に与える影響に関する系統的実証研究を可能にするため, ホモフィリー解析で一般的に用いられる優先アタッチメントモデルに新たなパラメータを導入する。
さらに,グローバルなホモフィリーレベルの異なる実世界のデータセットの粒度解析を行う。
理論的な結果と経験的な結果から
(a)~GNNは、グラフのグローバルなホモフィリーから逸脱するテストノードに一般化できない可能性がある。
(b)~高局所ホモフィリーは必ずしもノードの高性能を期待するとは限らない。
(c)~ ヘテロフィリーを扱うように設計されたGNNモデルは、データセットのグローバルなホモフィリーに関係なく、様々なヘテロフィリー範囲でより良い性能を発揮する。
これらの知見は、GNNがグローバルなホモフィリーを過度に信頼してトレーニングし、大きなローカルなホモフィリー範囲をまたいでより一般化可能なGNNを設計する必要があることを示唆している。
関連論文リスト
- Unveiling the Impact of Local Homophily on GNN Fairness: In-Depth Analysis and New Benchmarks [12.077386474432124]
グラフニューラルネットワーク(GNN)は、グラフがホモフィリ(サメクラスの接続)とヘテロフィリ(微分クラスの接続)の両方を示すとき、一般化に苦慮することが多い
この問題は、表現不足のホモフィリーレベルが存在するユーザ中心のアプリケーションにリスクをもたらす。
グローバルなホモフィリーを超えて、ローカルなホモフィリーレベルが不公平な予測にどのように結びつくかを探求する。
論文 参考訳(メタデータ) (2024-10-05T21:21:40Z) - Learn from Heterophily: Heterophilous Information-enhanced Graph Neural Network [4.078409998614025]
論理的に異なるラベルを持つノードは意味論的意味に基づいて接続される傾向があるが、グラフニューラルネットワーク(GNN)は、しばしば最適以下の性能を示す。
ヘテロフィリーに固有の意味情報をグラフ学習において効果的に活用できることを示す。
ノード分布を利用して異種情報を統合する新しいグラフ構造を構築する革新的な手法であるHiGNNを提案する。
論文 参考訳(メタデータ) (2024-03-26T03:29:42Z) - Breaking the Entanglement of Homophily and Heterophily in
Semi-supervised Node Classification [25.831508778029097]
統計的観点から,ノードプロファイルとトポロジの関係を定量化するAMUDを提案する。
また、AMUDのための新しい有向グラフ学習パラダイムとしてADPAを提案する。
論文 参考訳(メタデータ) (2023-12-07T07:54:11Z) - Demystifying Structural Disparity in Graph Neural Networks: Can One Size
Fit All? [61.35457647107439]
ほとんどの実世界のホモフィルグラフとヘテロフィルグラフは、ホモフィルグラフとヘテロフィルグラフの両方の構造パターンの混合ノードから構成される。
ノード分類におけるグラフニューラルネットワーク (GNN) は, 一般にホモ親和性ノード上で良好に機能することを示す。
次に、GNNに対する厳密で非I.d PAC-Bayesian一般化を提案し、性能格差の理由を明らかにした。
論文 参考訳(メタデータ) (2023-06-02T07:46:20Z) - LSGNN: Towards General Graph Neural Network in Node Classification by
Local Similarity [59.41119013018377]
本稿では,ローカル類似性(LocalSim)を用いて,プラグイン・アンド・プレイモジュールとしても機能するノードレベルの重み付き融合を学習する。
そこで本研究では,より情報性の高いマルチホップ情報を抽出するための,新規かつ効率的な初期残留差分接続(IRDC)を提案する。
提案手法,すなわちローカル類似グラフニューラルネットワーク(LSGNN)は,ホモ親和性グラフとヘテロ親和性グラフの両方において,同等あるいは優れた最先端性能を提供できる。
論文 参考訳(メタデータ) (2023-05-07T09:06:11Z) - When Do Graph Neural Networks Help with Node Classification?
Investigating the Impact of Homophily Principle on Node Distinguishability [92.8279562472538]
ホモフィリー原理は、ノード分類タスクにおけるニューラルネットワークよりもグラフネットワーク(GNN)の性能上の優位性の主要な理由であると考えられている。
最近の研究は、ホモフィリーがなくても、同じクラスのノードが類似した近隣パターンを共有する限り、GNNの利点は依然として存在することを示唆している。
論文 参考訳(メタデータ) (2023-04-25T09:40:47Z) - Exploiting Neighbor Effect: Conv-Agnostic GNNs Framework for Graphs with
Heterophily [58.76759997223951]
我々はフォン・ノイマンエントロピーに基づく新しい計量を提案し、GNNのヘテロフィリー問題を再検討する。
また、異種データセット上でのほとんどのGNNの性能を高めるために、Conv-Agnostic GNNフレームワーク(CAGNN)を提案する。
論文 参考訳(メタデータ) (2022-03-19T14:26:43Z) - Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。
具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。
グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
論文 参考訳(メタデータ) (2022-02-14T23:07:47Z) - Is Homophily a Necessity for Graph Neural Networks? [50.959340355849896]
グラフニューラルネットワーク(GNN)は、多数のグラフベースの機械学習タスクに適した学習表現において大きな進歩を見せている。
GNNはホモフィリーな仮定によりうまく機能し、異種ノードが接続する異種グラフへの一般化に失敗したと広く信じられている。
最近の研究は、このような不均一な制限を克服する新しいアーキテクチャを設計し、ベースライン性能の低さと、この概念の証拠として、いくつかの異種グラフベンチマークデータセットに対するアーキテクチャの改善を引用している。
我々の実験では、標準グラフ畳み込みネットワーク(GCN)が実際よりも優れた性能を実現できることを実証的に見出した。
論文 参考訳(メタデータ) (2021-06-11T02:44:00Z) - Graph Neural Networks with Heterophily [40.23690407583509]
我々は、ホモフィリーなグラフとヘテロフィリーなグラフのGNNを一般化するCPGNNと呼ばれる新しいフレームワークを提案する。
フレームワークの互換性行列を(純粋なホモフィリーを表す)同一性に置き換えると、GCNに還元されることを示す。
論文 参考訳(メタデータ) (2020-09-28T18:29:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。