論文の概要: Language Model-Enhanced Message Passing for Heterophilic Graph Learning
- arxiv url: http://arxiv.org/abs/2505.19762v1
- Date: Mon, 26 May 2025 09:45:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-27 16:58:43.335688
- Title: Language Model-Enhanced Message Passing for Heterophilic Graph Learning
- Title(参考訳): ヘテロ親和性グラフ学習のための言語モデル強化メッセージパッシング
- Authors: Wenjun Wang, Dawei Cheng,
- Abstract要約: 異種グラフ傾き(LEMP4HG)のための新しい言語モデル(LM)拡張メッセージパッシング手法を提案する。
具体的には、テキスト分散グラフのコンテキストにおいて、LMに接続解析を生成するためのペアノードテキストを提供し、それを符号化し、ゲーティング機構を通じてペアノードテキスト埋め込みと融合する。
合成されたメッセージは、両ノードの情報とセマンティックに富み、適応的にバランスをとる。
- 参考スコア(独自算出の注目度): 13.001541910098126
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditional graph neural networks (GNNs), which rely on homophily-driven message passing, struggle with heterophilic graphs where connected nodes exhibit dissimilar features and different labels. While existing methods address heterophily through graph structure refinement or adaptation of neighbor aggregation functions, they often overlook the semantic potential of node text, rely on suboptimal message representation for propagation and compromise performance on homophilic graphs. To address these limitations, we propose a novel language model (LM)-enhanced message passing approach for heterophilic graph leaning (LEMP4HG). Specifically, in the context of text-attributed graph, we provide paired node texts for LM to generate their connection analysis, which are encoded and then fused with paired node textual embeddings through a gating mechanism. The synthesized messages are semantically enriched and adaptively balanced with both nodes' information, which mitigates contradictory signals when neighbor aggregation in heterophilic regions. Furthermore, we introduce an active learning strategy guided by our heuristic MVRD (Modulated Variation of Reliable Distance), selectively enhancing node pairs suffer most from message passing, reducing the cost of analysis generation and side effects on homophilic regions. Extensive experiments validate that our approach excels on heterophilic graphs and performs robustly on homophilic ones, with a graph convolutional network (GCN) backbone and a practical budget.
- Abstract(参考訳): ホモフィズ駆動のメッセージパッシングに依存する従来のグラフニューラルネットワーク(GNN)は、接続ノードが異なる特徴と異なるラベルを示すヘテロ親和性グラフと競合する。
既存の手法はグラフ構造の改良や近隣の集約関数の適応を通じてヘテロフィリーに対処するが、それらはしばしばノードテキストの意味的なポテンシャルを見落とし、準最適メッセージ表現に頼り、ホモ親和グラフ上での伝播と妥協性能に依存する。
これらの制約に対処するために、異種グラフ傾き(LEMP4HG)のための新しい言語モデル(LM)によるメッセージパッシング手法を提案する。
具体的には、テキスト分散グラフのコンテキストにおいて、LMに接続解析を生成するためのペアノードテキストを提供し、それを符号化し、ゲーティング機構を通じてペアノードテキスト埋め込みと融合する。
合成されたメッセージは、両ノードの情報とセマンティックに富み、適応的にバランスをとる。
さらに,我々のヒューリスティックなMVRD(Modulated Variation of Reliable Distance)によって導かれるアクティブな学習戦略を導入する。
グラフ畳み込みネットワーク(GCN)のバックボーンと実用的な予算により,本手法がヘテロ親和性グラフに優れ,ホモ親和性グラフに頑強に作用することが実証された。
関連論文リスト
- Directed Homophily-Aware Graph Neural Network [7.539052660225002]
我々は、ホモフィア認識と指向性を考慮した新しいフレームワーク、Directed Homophily-aware Graph Neural Network (DHGNN)を提案する。
DHGNNは、ホモフィリーレベルと情報性に基づいてメッセージコントリビューションを適応的に変調するリセット可能なゲーティング機構を採用している。
解析により、このゲーティング機構は、方向のホモフィリギャップを捕捉し、層を横切るホモフィリを変動させ、複雑なグラフ構造上のメッセージパッシングの挙動について深い洞察を与えることが示された。
論文 参考訳(メタデータ) (2025-05-28T13:41:04Z) - Multi-Granular Attention based Heterogeneous Hypergraph Neural Network [5.580244361093485]
不均一グラフニューラルネットワーク(HeteGNN)はノード表現を学習する強力な能力を示している。
本稿では,マルチグラニュラーアテンションに基づく表現学習のためのヘテロジニアスハイパーグラフニューラルネットワークであるMGA-HHNを提案する。
論文 参考訳(メタデータ) (2025-05-07T11:42:00Z) - GRAIN: Multi-Granular and Implicit Information Aggregation Graph Neural Network for Heterophilous Graphs [11.458759345322832]
Granular and Implicit Graph Network (GRAIN) は異種グラフに特化して設計された新しいGNNモデルである。
GRAINは、さまざまなレベルでマルチビュー情報を集約し、非隣接ノードからの暗黙のデータを組み込むことで、ノードの埋め込みを強化する。
また,多粒度と暗黙的データを効率よく組み合わせ,ノード表現の質を大幅に向上させる適応グラフ情報集約器を導入する。
論文 参考訳(メタデータ) (2025-04-09T07:36:44Z) - Exploring the Potential of Large Language Models for Heterophilic Graphs [38.79574338268997]
大規模言語モデル(LLM)を用いた異種グラフモデリングのための2段階フレームワークを提案する。
第1段階では、LLMを微調整して、ノードのテキスト内容に基づいて、同好および異好のエッジをより正確に識別する。
第2段階では,ノードの特徴,構造,ヘテロ親和性,ホモ親和性といった特徴に基づいて,異なるエッジタイプに対するGNNのメッセージ伝搬を適応的に管理する。
論文 参考訳(メタデータ) (2024-08-26T09:29:56Z) - Learn from Heterophily: Heterophilous Information-enhanced Graph Neural Network [4.078409998614025]
論理的に異なるラベルを持つノードは意味論的意味に基づいて接続される傾向があるが、グラフニューラルネットワーク(GNN)は、しばしば最適以下の性能を示す。
ヘテロフィリーに固有の意味情報をグラフ学習において効果的に活用できることを示す。
ノード分布を利用して異種情報を統合する新しいグラフ構造を構築する革新的な手法であるHiGNNを提案する。
論文 参考訳(メタデータ) (2024-03-26T03:29:42Z) - Heterophily-Aware Graph Attention Network [42.640057865981156]
グラフニューラルネットワーク(GNN)はグラフ表現学習において顕著な成功を収めている。
既存のヘテロフィル性GNNは、各エッジのヘテロフィリのモデリングを無視する傾向にあり、これはヘテロフィリ問題に取り組む上でも不可欠である。
本稿では,局所分布を基礎となるヘテロフィリーとして完全に探索し,活用することで,新たなヘテロフィア対応グラフ注意ネットワーク(HA-GAT)を提案する。
論文 参考訳(メタデータ) (2023-02-07T03:21:55Z) - Text Enriched Sparse Hyperbolic Graph Convolutional Networks [21.83127488157701]
グラフニューラルネットワーク(GNN)とその双曲型は、そのようなネットワークを低次元の潜在空間でエンコードするための有望なアプローチを提供する。
本稿では,グラフのメタパス構造を意味信号を用いて捉えるために,テキスト強化スパースハイパーボリックグラフ畳み込みネットワーク(TESH-GCN)を提案する。
我々のモデルは,リンク予測のタスクにおいて,最先端のアプローチよりも大きなマージンで優れている。
論文 参考訳(メタデータ) (2022-07-06T00:23:35Z) - Discovering the Representation Bottleneck of Graph Neural Networks from
Multi-order Interactions [51.597480162777074]
グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。
最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。
科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
論文 参考訳(メタデータ) (2022-05-15T11:38:14Z) - HL-Net: Heterophily Learning Network for Scene Graph Generation [90.2766568914452]
本稿では,シーングラフにおけるオブジェクト/リレーショナル間のホモフィリとヘテロフィリを探索する,新しいヘテロフィリズ学習ネットワーク(HL-Net)を提案する。
HL-Netは、適応的な再重み付け変換モジュールで、異なる層からの情報を適応的に統合し、オブジェクトのヘテロフィリとホモフィリの両方を利用する。
我々は、ビジュアルゲノム(VG)とオープンイメージ(OI)の2つの公開データセットについて広範な実験を行った。
論文 参考訳(メタデータ) (2022-05-03T06:00:29Z) - Heterogeneous Graph Neural Networks using Self-supervised Reciprocally
Contrastive Learning [102.9138736545956]
不均一グラフニューラルネットワーク(HGNN)は異種グラフのモデリングと解析において非常に一般的な手法である。
我々は,ノード属性とグラフトポロジの各ガイダンスに関する2つの視点を取り入れた,新規で頑健なヘテロジニアスグラフコントラスト学習手法であるHGCLを初めて開発する。
この新しいアプローチでは,属性とトポロジに関連情報を別々にマイニングする手法として,異なるが最も適した属性とトポロジの融合機構を2つの視点に適用する。
論文 参考訳(メタデータ) (2022-04-30T12:57:02Z) - SHGNN: Structure-Aware Heterogeneous Graph Neural Network [77.78459918119536]
本稿では、上記の制約に対処する構造対応不均一グラフニューラルネットワーク(SHGNN)を提案する。
まず,メタパス内の中間ノードの局所構造情報を取得するために,特徴伝搬モジュールを利用する。
次に、ツリーアテンションアグリゲータを使用して、グラフ構造情報をメタパス上のアグリゲーションモジュールに組み込む。
最後に、メタパスアグリゲータを利用して、異なるメタパスから集約された情報を融合する。
論文 参考訳(メタデータ) (2021-12-12T14:18:18Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳(メタデータ) (2021-04-04T23:31:39Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳(メタデータ) (2021-01-16T16:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。