論文の概要: Uncertainty Estimation for Heterophilic Graphs Through the Lens of Information Theory
- arxiv url: http://arxiv.org/abs/2505.22152v1
- Date: Wed, 28 May 2025 09:18:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-29 17:35:50.528081
- Title: Uncertainty Estimation for Heterophilic Graphs Through the Lens of Information Theory
- Title(参考訳): 情報理論のレンズによる不テロ親和性グラフの不確かさ推定
- Authors: Dominik Fuchsgruber, Tom Wollschläger, Johannes Bordne, Stephan Günnemann,
- Abstract要約: 我々は,データ処理の不等式に対する適切な類似性を開発し,モデルの層全体にわたって情報を定量化する。
結合ノード埋め込み空間上の単純なポストホック密度推定器でこれを実証的に確認する。
- 参考スコア(独自算出の注目度): 43.50142477752392
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While uncertainty estimation for graphs recently gained traction, most methods rely on homophily and deteriorate in heterophilic settings. We address this by analyzing message passing neural networks from an information-theoretic perspective and developing a suitable analog to data processing inequality to quantify information throughout the model's layers. In contrast to non-graph domains, information about the node-level prediction target can increase with model depth if a node's features are semantically different from its neighbors. Therefore, on heterophilic graphs, the latent embeddings of an MPNN each provide different information about the data distribution - different from homophilic settings. This reveals that considering all node representations simultaneously is a key design principle for epistemic uncertainty estimation on graphs beyond homophily. We empirically confirm this with a simple post-hoc density estimator on the joint node embedding space that provides state-of-the-art uncertainty on heterophilic graphs. At the same time, it matches prior work on homophilic graphs without explicitly exploiting homophily through post-processing.
- Abstract(参考訳): グラフの不確実性の推定は、最近牽引力を高めたが、ほとんどの手法は、ホモフィリと不均一な設定の劣化に依存している。
我々は、情報理論の観点からメッセージパッシングニューラルネットワークを解析し、モデルの層全体にわたって情報を定量化するために、データ処理の不等式に対する適切なアナログを開発することで、この問題に対処する。
非グラフ領域とは対照的に、ノードレベルの予測対象に関する情報は、ノードの特徴が隣接するノードと意味的に異なる場合、モデル深さによって増加する可能性がある。
したがって、ヘテロ親和性グラフでは、MPNNの潜伏埋め込みはそれぞれ、ホモ親和性の設定とは異なるデータ分布に関する異なる情報を提供する。
このことは、全てのノード表現を同時に考えることが、ホモフィリーを超えたグラフ上でのエピステミック不確実性推定の鍵となる設計原理であることを示している。
我々はこれを、異種グラフの最先端の不確実性を提供するジョイントノード埋め込み空間上の単純なポストホック密度推定器で実証的に確認する。
同時に、これはホモフィルグラフに関する以前の研究と一致し、ポストプロセッシングによるホモフィルを明示的に活用することはない。
関連論文リスト
- Non-Homophilic Graph Pre-Training and Prompt Learning [11.996173149569627]
本稿では,好ましくないグラフに対する事前学習と迅速な学習の枠組みであるProNoGを提案する。
まず、既存のグラフ事前学習手法を分析し、事前学習タスクの選択に関する理論的知見を提供する。
第2に,各ノードが特異な非ホモフィル性を示すことを認識し,下流タスクにおけるノード固有のパターンを特徴付ける条件付きネットワークを提案する。
論文 参考訳(メタデータ) (2024-08-22T17:57:31Z) - The Heterophilic Graph Learning Handbook: Benchmarks, Models, Theoretical Analysis, Applications and Challenges [101.83124435649358]
ホモフィリ原理では、同じラベルや類似属性を持つieノードが接続される可能性が高い。
最近の研究で、GNNのパフォーマンスとNNのパフォーマンスが満足できない非自明なデータセットが特定されている。
論文 参考訳(メタデータ) (2024-07-12T18:04:32Z) - Heterophilous Distribution Propagation for Graph Neural Networks [23.897535976924722]
グラフニューラルネットワークのための異種分布伝播(HDP)を提案する。
すべての近隣から情報を集約する代わりに、HDPは隣人をホモ親和性および不テロ親和性の部分に適応的に分離する。
我々は、異なるレベルのホモフィリーを持つ9つのベンチマークデータセットに対して広範な実験を行う。
論文 参考訳(メタデータ) (2024-05-31T06:40:56Z) - Generation is better than Modification: Combating High Class Homophily Variance in Graph Anomaly Detection [51.11833609431406]
異なるクラス間のホモフィリー分布の差は、ホモフィリックグラフやヘテロフィリックグラフよりも著しく大きい。
我々は、この現象を定量的に記述した、クラスホモフィリーバリアンスと呼ばれる新しい計量を導入する。
その影響を軽減するために,ホモフィリーエッジ生成グラフニューラルネットワーク(HedGe)と呼ばれる新しいGNNモデルを提案する。
論文 参考訳(メタデータ) (2024-03-15T14:26:53Z) - Demystifying Structural Disparity in Graph Neural Networks: Can One Size
Fit All? [61.35457647107439]
ほとんどの実世界のホモフィルグラフとヘテロフィルグラフは、ホモフィルグラフとヘテロフィルグラフの両方の構造パターンの混合ノードから構成される。
ノード分類におけるグラフニューラルネットワーク (GNN) は, 一般にホモ親和性ノード上で良好に機能することを示す。
次に、GNNに対する厳密で非I.d PAC-Bayesian一般化を提案し、性能格差の理由を明らかにした。
論文 参考訳(メタデータ) (2023-06-02T07:46:20Z) - Graph Neural Convection-Diffusion with Heterophily [32.234690120340964]
グラフニューラルネットワーク(GNN)は、さまざまなグラフ学習タスクで有望な結果を示している。
しかし、それらはしばしばホモフィリー(英語版)を仮定し、ヘテロ親和グラフ上での性能が低下する可能性がある。
本稿では,ノード上の情報の流れをモデル化してヘテロフィリの原理を取り入れた新しいGNNを提案する。
論文 参考訳(メタデータ) (2023-05-26T09:47:03Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。