論文の概要: Language Model-Enhanced Message Passing for Heterophilic Graph Learning
- arxiv url: http://arxiv.org/abs/2505.19762v1
- Date: Mon, 26 May 2025 09:45:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-27 16:58:43.335688
- Title: Language Model-Enhanced Message Passing for Heterophilic Graph Learning
- Title(参考訳): ヘテロ親和性グラフ学習のための言語モデル強化メッセージパッシング
- Authors: Wenjun Wang, Dawei Cheng,
- Abstract要約: 異種グラフ傾き(LEMP4HG)のための新しい言語モデル(LM)拡張メッセージパッシング手法を提案する。
具体的には、テキスト分散グラフのコンテキストにおいて、LMに接続解析を生成するためのペアノードテキストを提供し、それを符号化し、ゲーティング機構を通じてペアノードテキスト埋め込みと融合する。
合成されたメッセージは、両ノードの情報とセマンティックに富み、適応的にバランスをとる。
- 参考スコア(独自算出の注目度): 13.001541910098126
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditional graph neural networks (GNNs), which rely on homophily-driven message passing, struggle with heterophilic graphs where connected nodes exhibit dissimilar features and different labels. While existing methods address heterophily through graph structure refinement or adaptation of neighbor aggregation functions, they often overlook the semantic potential of node text, rely on suboptimal message representation for propagation and compromise performance on homophilic graphs. To address these limitations, we propose a novel language model (LM)-enhanced message passing approach for heterophilic graph leaning (LEMP4HG). Specifically, in the context of text-attributed graph, we provide paired node texts for LM to generate their connection analysis, which are encoded and then fused with paired node textual embeddings through a gating mechanism. The synthesized messages are semantically enriched and adaptively balanced with both nodes' information, which mitigates contradictory signals when neighbor aggregation in heterophilic regions. Furthermore, we introduce an active learning strategy guided by our heuristic MVRD (Modulated Variation of Reliable Distance), selectively enhancing node pairs suffer most from message passing, reducing the cost of analysis generation and side effects on homophilic regions. Extensive experiments validate that our approach excels on heterophilic graphs and performs robustly on homophilic ones, with a graph convolutional network (GCN) backbone and a practical budget.
- Abstract(参考訳): ホモフィズ駆動のメッセージパッシングに依存する従来のグラフニューラルネットワーク(GNN)は、接続ノードが異なる特徴と異なるラベルを示すヘテロ親和性グラフと競合する。
既存の手法はグラフ構造の改良や近隣の集約関数の適応を通じてヘテロフィリーに対処するが、それらはしばしばノードテキストの意味的なポテンシャルを見落とし、準最適メッセージ表現に頼り、ホモ親和グラフ上での伝播と妥協性能に依存する。
これらの制約に対処するために、異種グラフ傾き(LEMP4HG)のための新しい言語モデル(LM)によるメッセージパッシング手法を提案する。
具体的には、テキスト分散グラフのコンテキストにおいて、LMに接続解析を生成するためのペアノードテキストを提供し、それを符号化し、ゲーティング機構を通じてペアノードテキスト埋め込みと融合する。
合成されたメッセージは、両ノードの情報とセマンティックに富み、適応的にバランスをとる。
さらに,我々のヒューリスティックなMVRD(Modulated Variation of Reliable Distance)によって導かれるアクティブな学習戦略を導入する。
グラフ畳み込みネットワーク(GCN)のバックボーンと実用的な予算により,本手法がヘテロ親和性グラフに優れ,ホモ親和性グラフに頑強に作用することが実証された。
関連論文リスト
- Multi-Granular Attention based Heterogeneous Hypergraph Neural Network [5.580244361093485]
不均一グラフニューラルネットワーク(HeteGNN)はノード表現を学習する強力な能力を示している。
本稿では,マルチグラニュラーアテンションに基づく表現学習のためのヘテロジニアスハイパーグラフニューラルネットワークであるMGA-HHNを提案する。
論文 参考訳(メタデータ) (2025-05-07T11:42:00Z) - GRAIN: Multi-Granular and Implicit Information Aggregation Graph Neural Network for Heterophilous Graphs [11.458759345322832]
Granular and Implicit Graph Network (GRAIN) は異種グラフに特化して設計された新しいGNNモデルである。
GRAINは、さまざまなレベルでマルチビュー情報を集約し、非隣接ノードからの暗黙のデータを組み込むことで、ノードの埋め込みを強化する。
また,多粒度と暗黙的データを効率よく組み合わせ,ノード表現の質を大幅に向上させる適応グラフ情報集約器を導入する。
論文 参考訳(メタデータ) (2025-04-09T07:36:44Z) - Exploring the Potential of Large Language Models for Heterophilic Graphs [38.79574338268997]
大規模言語モデル(LLM)を用いた異種グラフモデリングのための2段階フレームワークを提案する。
第1段階では、LLMを微調整して、ノードのテキスト内容に基づいて、同好および異好のエッジをより正確に識別する。
第2段階では,ノードの特徴,構造,ヘテロ親和性,ホモ親和性といった特徴に基づいて,異なるエッジタイプに対するGNNのメッセージ伝搬を適応的に管理する。
論文 参考訳(メタデータ) (2024-08-26T09:29:56Z) - Heterophily-Aware Graph Attention Network [42.640057865981156]
グラフニューラルネットワーク(GNN)はグラフ表現学習において顕著な成功を収めている。
既存のヘテロフィル性GNNは、各エッジのヘテロフィリのモデリングを無視する傾向にあり、これはヘテロフィリ問題に取り組む上でも不可欠である。
本稿では,局所分布を基礎となるヘテロフィリーとして完全に探索し,活用することで,新たなヘテロフィア対応グラフ注意ネットワーク(HA-GAT)を提案する。
論文 参考訳(メタデータ) (2023-02-07T03:21:55Z) - Text Enriched Sparse Hyperbolic Graph Convolutional Networks [21.83127488157701]
グラフニューラルネットワーク(GNN)とその双曲型は、そのようなネットワークを低次元の潜在空間でエンコードするための有望なアプローチを提供する。
本稿では,グラフのメタパス構造を意味信号を用いて捉えるために,テキスト強化スパースハイパーボリックグラフ畳み込みネットワーク(TESH-GCN)を提案する。
我々のモデルは,リンク予測のタスクにおいて,最先端のアプローチよりも大きなマージンで優れている。
論文 参考訳(メタデータ) (2022-07-06T00:23:35Z) - HL-Net: Heterophily Learning Network for Scene Graph Generation [90.2766568914452]
本稿では,シーングラフにおけるオブジェクト/リレーショナル間のホモフィリとヘテロフィリを探索する,新しいヘテロフィリズ学習ネットワーク(HL-Net)を提案する。
HL-Netは、適応的な再重み付け変換モジュールで、異なる層からの情報を適応的に統合し、オブジェクトのヘテロフィリとホモフィリの両方を利用する。
我々は、ビジュアルゲノム(VG)とオープンイメージ(OI)の2つの公開データセットについて広範な実験を行った。
論文 参考訳(メタデータ) (2022-05-03T06:00:29Z) - SHGNN: Structure-Aware Heterogeneous Graph Neural Network [77.78459918119536]
本稿では、上記の制約に対処する構造対応不均一グラフニューラルネットワーク(SHGNN)を提案する。
まず,メタパス内の中間ノードの局所構造情報を取得するために,特徴伝搬モジュールを利用する。
次に、ツリーアテンションアグリゲータを使用して、グラフ構造情報をメタパス上のアグリゲーションモジュールに組み込む。
最後に、メタパスアグリゲータを利用して、異なるメタパスから集約された情報を融合する。
論文 参考訳(メタデータ) (2021-12-12T14:18:18Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳(メタデータ) (2021-04-04T23:31:39Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳(メタデータ) (2021-01-16T16:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。