論文の概要: Heterophilic Graph Neural Networks Optimization with Causal Message-passing

• arxiv url: http://arxiv.org/abs/2411.13821v2
• Date: Wed, 27 Nov 2024 06:12:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-28 15:28:50.914672
• Title: Heterophilic Graph Neural Networks Optimization with Causal Message-passing
• Title（参考訳）: 因果メッセージパスを用いた不テロ親和性グラフニューラルネットワークの最適化
• Authors: Botao Wang, Jia Li, Heng Chang, Keli Zhang, Fugee Tsung,
• Abstract要約: グラフニューラルネットワーク(GNN)における異種メッセージパッシングを因果推論を用いて捉える。 異種グラフ学習のための因果的メッセージパス探索ネットワークCausalMPを提案する。
• 参考スコア（独自算出の注目度）: 24.796935814432892
• License:
• Abstract: In this work, we discover that causal inference provides a promising approach to capture heterophilic message-passing in Graph Neural Network (GNN). By leveraging cause-effect analysis, we can discern heterophilic edges based on asymmetric node dependency. The learned causal structure offers more accurate relationships among nodes. To reduce the computational complexity, we introduce intervention-based causal inference in graph learning. We first simplify causal analysis on graphs by formulating it as a structural learning model and define the optimization problem within the Bayesian scheme. We then present an analysis of decomposing the optimization target into a consistency penalty and a structure modification based on cause-effect relations. We then estimate this target by conditional entropy and present insights into how conditional entropy quantifies the heterophily. Accordingly, we propose CausalMP, a causal message-passing discovery network for heterophilic graph learning, that iteratively learns the explicit causal structure of input graphs. We conduct extensive experiments in both heterophilic and homophilic graph settings. The result demonstrates that the our model achieves superior link prediction performance. Training on causal structure can also enhance node representation in classification task across different base models.
• Abstract（参考訳）: 本研究では,因果推論がグラフニューラルネットワーク(GNN)における異種親和性メッセージパッシングを捕捉するための有望なアプローチであることを示す。 原因・影響分析を利用することで,非対称ノード依存に基づく異種縁の識別が可能となる。 学習された因果構造は、ノード間のより正確な関係を提供する。 計算複雑性を低減するため,グラフ学習における介入に基づく因果推論を導入する。 まず、構造学習モデルとして定式化してグラフの因果解析を単純化し、ベイズスキームの最適化問題を定義する。 次に、最適化対象を整合性ペナルティに分解し、原因-影響関係に基づく構造変更を行う。 次に、条件エントロピーによりこのターゲットを推定し、条件エントロピーがヘテロフィリーをどのように定量化するかについての洞察を与える。 そこで我々は,異種グラフ学習のための因果的メッセージパス探索ネットワークCausalMPを提案し,入力グラフの明示的な因果的構造を反復的に学習する。 ヘテロ親和性グラフ設定とホモ親和性グラフ設定の両方において広範な実験を行う。 その結果,本モデルはリンク予測性能に優れることを示した。 因果構造の訓練は、異なるベースモデル間での分類タスクにおけるノード表現を強化することもできる。

関連論文リスト

• Introducing Diminutive Causal Structure into Graph Representation Learning [19.132025125620274]
  本稿では,グラフニューラルネット(GNN)が専門的な最小の因果構造から洞察を得ることを可能にする新しい手法を提案する。 本手法は,これらの小型因果構造のモデル表現から因果知識を抽出する。
  論文  参考訳（メタデータ） (2024-06-13T00:18:20Z)
• Demystifying Structural Disparity in Graph Neural Networks: Can One Size Fit All? [61.35457647107439]
  ほとんどの実世界のホモフィルグラフとヘテロフィルグラフは、ホモフィルグラフとヘテロフィルグラフの両方の構造パターンの混合ノードから構成される。 ノード分類におけるグラフニューラルネットワーク (GNN) は, 一般にホモ親和性ノード上で良好に機能することを示す。 次に、GNNに対する厳密で非I.d PAC-Bayesian一般化を提案し、性能格差の理由を明らかにした。
  論文  参考訳（メタデータ） (2023-06-02T07:46:20Z)
• Addressing Heterophily in Node Classification with Graph Echo State Networks [11.52174067809364]
  ノード分類のためのグラフエコー状態ネットワーク(GESN)を用いた異種グラフの課題に対処する。 GESNはグラフのための貯水池計算モデルであり、ノードの埋め込みは訓練されていないメッセージパッシング関数によって計算される。 実験の結果, 貯水池モデルでは, ほぼ完全に訓練された深層モデルに対して, より優れた精度あるいは同等の精度が得られることがわかった。
  論文  参考訳（メタデータ） (2023-05-14T19:42:31Z)
• Relation Embedding based Graph Neural Networks for Handling Heterogeneous Graph [58.99478502486377]
  我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。 具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
  論文  参考訳（メタデータ） (2022-09-23T05:24:18Z)
• Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
  本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。 固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。 GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
  論文  参考訳（メタデータ） (2022-05-19T14:08:15Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• OrphicX: A Causality-Inspired Latent Variable Model for Interpreting Graph Neural Networks [42.539085765796976]
  本稿では、グラフニューラルネットワーク(GNN)の因果説明を生成するための新しいeXplanationフレームワークOrphicXを提案する。 本研究では, 個別な生成モデルを構築し, 因果的, コンパクト, 忠実な説明を生成モデルに推奨する目的関数を設計する。 OrphicXは因果的説明を生成するための因果的意味論を効果的に識別できることを示す。
  論文  参考訳（メタデータ） (2022-03-29T03:08:33Z)
• Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised Node Classification [59.06717774425588]
  本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。 出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。 本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
  論文  参考訳（メタデータ） (2021-07-27T19:47:53Z)
• Structural Landmarking and Interaction Modelling: on Resolution Dilemmas in Graph Classification [50.83222170524406]
  解法ジレンマの統一概念に基づくグラフ分類における本質的難易度の研究」 構造ランドマークと相互作用モデリングのためのインダクティブニューラルネットワークモデルSLIM'を提案する。
  論文  参考訳（メタデータ） (2020-06-29T01:01:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。