論文の概要: Neighbourhood Transformer: Switchable Attention for Monophily-Aware Graph Learning
- arxiv url: http://arxiv.org/abs/2604.08980v1
- Date: Fri, 10 Apr 2026 05:35:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.702866
- Title: Neighbourhood Transformer: Switchable Attention for Monophily-Aware Graph Learning
- Title(参考訳): Neighbourhood Transformer:モノフィックなグラフ学習のためのスイッチングアテンション
- Authors: Yi Luo, Xu Sun, Guangchun Luo, Aiguo Chen,
- Abstract要約: Neighbourhood Transformers (NT) は、中央ノードへのメッセージの集約ではなく、各地域内の自己アテンションを適用する新しいパラダイムである。
本研究では,NTの空間消費を95%以上削減し,時間消費を92.67%まで削減する,スイッチ可能な注意機能を備えた周辺戦略を開発する。
- 参考スコア(独自算出の注目度): 21.599886543038348
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph neural networks (GNNs) have been widely adopted in engineering applications such as social network analysis, chemical research and computer vision. However, their efficacy is severely compromised by the inherent homophily assumption, which fails to hold for heterophilic graphs where dissimilar nodes are frequently connected. To address this fundamental limitation in graph learning, we first draw inspiration from the recently discovered monophily property of real-world graphs, and propose Neighbourhood Transformers (NT), a novel paradigm that applies self-attention within every local neighbourhood instead of aggregating messages to the central node as in conventional message-passing GNNs. This design makes NT inherently monophily-aware and theoretically guarantees its expressiveness is no weaker than traditional message-passing frameworks. For practical engineering deployment, we further develop a neighbourhood partitioning strategy equipped with switchable attentions, which reduces the space consumption of NT by over 95% and time consumption by up to 92.67%, significantly expanding its applicability to larger graphs. Extensive experiments on 10 real-world datasets (5 heterophilic and 5 homophilic graphs) show that NT outperforms all current state-of-the-art methods on node classification tasks, demonstrating its superior performance and cross-domain adaptability. The full implementation code of this work is publicly available at https://github.com/cf020031308/MoNT to facilitate reproducibility and industrial adoption.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、ソーシャルネットワーク分析、化学研究、コンピュータビジョンなどの工学的応用に広く採用されている。
しかし、それらの効力は、相似ノードが頻繁に接続されるヘテロ親和グラフに対して保持できない固有のホモフィリー仮定によって著しく損なわれている。
グラフ学習におけるこの基本的な制限に対処するために、我々はまず、最近発見された実世界のグラフのモノフィリーな性質からインスピレーションを得て、従来のメッセージパスGNNのように、中央ノードへのメッセージを集約するのではなく、各地域の自己アテンションを適用する新しいパラダイムであるNeighbourhood Transformers (NT)を提案する。
この設計はNTを本質的にモノフィリーに認識し、その表現性が従来のメッセージパッシングフレームワークよりも弱いことを理論的に保証する。
本研究では, NTの空間消費を95%以上削減し, 時間消費を92.67%まで削減し, より大きなグラフへの適用性を著しく拡大する, スイッチ可能な注意力を備えた周辺分割戦略をさらに発展させる。
10個の実世界のデータセット(5つのヘテロ親和性グラフと5つのホモ親和性グラフ)に対する大規模な実験により、NTはノード分類タスクにおける現在の最先端の手法よりも優れており、その優れた性能とクロスドメイン適応性を示している。
この作業の完全な実装コードはhttps://github.com/cf020031308/MoNTで公開されている。
関連論文リスト
- Attention Beyond Neighborhoods: Reviving Transformer for Graph Clustering [21.941792185132996]
Attentive Graph Clustering Network (AGCN)は、グラフが注目されているという概念を再解釈する新しいアーキテクチャである。
AGCNはアテンション機構をグラフ構造に埋め込み、効果的なグローバル情報抽出を可能にする。
我々のフレームワークは、AGCNの挙動をグラフニューラルネットワーク(GNN)やトランスフォーマーと対比するために理論解析を取り入れている。
論文 参考訳(メタデータ) (2025-09-18T14:51:13Z) - Efficient Environmental Claim Detection with Hyperbolic Graph Neural Networks [1.7259898169307608]
我々は、トランスフォーマーベースモデルの軽量かつ効果的な代替手段として、グラフニューラルネットワーク(GNN)とハイパーボリックグラフニューラルネットワーク(HGNN)について検討する。
以上の結果から,我々のグラフベースモデル,特にポインカー空間(P-HGNN)におけるHGNNは,環境クレーム検出の最先端技術よりも優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2025-02-19T11:04:59Z) - Bridging Domain Adaptation and Graph Neural Networks: A Tensor-Based Framework for Effective Label Propagation [23.79865440689265]
グラフニューラルネットワーク(GNN)は近年,グラフデータ研究の主要なツールとなっている。
グラフ分類タスクにおける最先端のパフォーマンスにもかかわらず、GNNは監督下の単一のドメインで圧倒的に訓練されている。
本稿では,グラフデータと従来のドメイン適応手法のギャップを埋めるために,ラベル伝搬グラフニューラルネットワーク(LP-TGNN)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-12T15:36:38Z) - Scalable Message Passing Neural Networks: No Need for Attention in Large Graph Representation Learning [15.317501970096743]
我々は、標準畳み込みメッセージパッシングを注意の代わりにプレ層正規化トランスフォーマースタイルのブロックに統合することにより、高性能なディープメッセージパッシングベースグラフニューラルネットワーク(GNN)を実現できることを示す。
結果は、大グラフトランスダクティブ学習における最先端の最先端と競合するが、それ以外は計算的かつメモリ拡張的な注意機構を必要としない。
論文 参考訳(メタデータ) (2024-10-29T17:18:43Z) - Efficient Heterogeneous Graph Learning via Random Projection [58.4138636866903]
不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。
最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。
我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
論文 参考訳(メタデータ) (2023-10-23T01:25:44Z) - T-GAE: Transferable Graph Autoencoder for Network Alignment [79.89704126746204]
T-GAEはグラフオートエンコーダフレームワークで、GNNの転送性と安定性を活用して、再トレーニングなしに効率的なネットワークアライメントを実現する。
実験の結果、T-GAEは最先端の最適化手法と最高のGNN手法を最大38.7%、50.8%で上回っていることがわかった。
論文 参考訳(メタデータ) (2023-10-05T02:58:29Z) - Graph Ladling: Shockingly Simple Parallel GNN Training without
Intermediate Communication [100.51884192970499]
GNNは、グラフを学習するニューラルネットワークの強力なファミリーである。
GNNのスケーリングは、肥大化または拡大によって、不健康な勾配、過度なスムースメント、情報のスカッシングといった問題に悩まされる。
本稿では,現在のGNNの深層化や拡張ではなく,GNNに適したモデルスープをデータ中心の視点で表現することを提案する。
論文 参考訳(メタデータ) (2023-06-18T03:33:46Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳(メタデータ) (2021-04-04T23:31:39Z) - Node Masking: Making Graph Neural Networks Generalize and Scale Better [71.51292866945471]
グラフニューラルネットワーク(GNN)は近年,多くの関心を集めている。
本稿では,芸術空間のGNNの状態によって実行される操作をよりよく可視化するために,いくつかの理論ツールを利用する。
私たちはNode Maskingというシンプルなコンセプトを導入しました。
論文 参考訳(メタデータ) (2020-01-17T06:26:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。