論文の概要: Learn When and Where to Connect: Adaptive Virtual Nodes for Dynamic Message Passing on Graphs
- arxiv url: http://arxiv.org/abs/2606.03068v1
- Date: Tue, 02 Jun 2026 02:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.710941
- Title: Learn When and Where to Connect: Adaptive Virtual Nodes for Dynamic Message Passing on Graphs
- Title(参考訳): 接続するタイミングと場所を学ぶ:グラフ上の動的メッセージパッシングのための適応的な仮想ノード
- Authors: Jaejun Lee, Joyce Jiyoung Whang,
- Abstract要約: 仮想ノード(VN)は、効果的なメッセージパッシングを容易にするために、しばしばメッセージパッシングニューラルネットワーク(MPNN)で使用される。
我々は,ノードとVN間の非制約接続を可能にする,エンドツーエンドの差別化可能なMPNNフレームワークMAVNを提案する。
- 参考スコア(独自算出の注目度): 13.20059929695759
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While Virtual Nodes (VNs) are often utilized in Message Passing Neural Networks (MPNNs) to facilitate effective message passing, existing VN-based methods have limitations, such as constraining all nodes to connect to the same number of VNs, fixing the connections before applying MPNNs, and connecting a node to a VN independently of the other nodes that connect to the same VN. We propose MAVN, an end-to-end differentiable MPNN framework that allows non-constrained connections between nodes and VNs and dynamically introduces VNs on demand in response to evolving node representations across layers. Specifically, MAVN learns to adaptively determine when (at which layer) and where (to which nodes) to introduce and connect VNs based on the relative importance of connections. From a pool of candidate VNs, MAVN selects the necessary VNs in each layer, where each selected VN is connected to a nonempty subset of nodes, guided by a dual-perspective scoring mechanism that jointly captures the nodes' preferences for VNs and the VNs' preferences for nodes. We theoretically prove that for any node-VN connectivity pattern, there exists a set of MAVN's parameters that can simulate the pattern. Experiments on nine real-world datasets demonstrate that MAVN consistently improves the performance of backbone MPNNs, achieving up to 46.5% improvement over the backbones and outperforms the baselines.
- Abstract(参考訳): VN(Virtual Nodes)は、メッセージパッシングニューラルネットワーク(MPNN)において効果的なメッセージパッシングを容易にするために使用されることが多いが、既存のVNベースのメソッドには、すべてのノードが同じ数のVNに接続することを制限したり、MPNNを適用する前に接続を固定したり、同じVNに接続する他のノードとは独立してノードをVNに接続するといった制限がある。
我々は、ノードとVN間の非制約接続を可能にするエンドツーエンドの差別化可能なMPNNフレームワークであるMAVNを提案し、層間のノード表現の進化に対応するために、要求に応じてVNを動的に導入する。
特にMAVNは、接続の相対的重要性に基づいて、いつ(どの層に)、どこで(どのノードに)VNを導入して接続するかを適応的に決定することを学ぶ。
候補VNのプールから、MAVNは各レイヤで必要なVNを選択し、各選択されたVNはノードの空でないサブセットに接続され、VNに対するノードの好みとノードに対するVNの好みを共同でキャプチャするデュアルパースペクティブスコアリング機構によってガイドされる。
理論的には、任意のノード-VN接続パターンに対して、そのパターンをシミュレートできるMAVNのパラメータセットが存在することが証明される。
9つの実世界のデータセットの実験では、MAVNはバックボーンMPNNのパフォーマンスを一貫して改善し、バックボーンを最大46.5%改善し、ベースラインを上回っている。
関連論文リスト
- Local Virtual Nodes for Alleviating Over-Squashing in Graph Neural Networks [0.0]
オーバースカッシングは、長距離依存関係を含むタスクに対して、グラフニューラルネットワークをトレーニングする上での課題である。
本研究では,局所仮想ノード(Local Virtual Nodes,LVN)をトレーニング可能な埋め込みで提案し,オーバースカッシングの効果を緩和する。
論文 参考訳(メタデータ) (2025-08-28T09:39:32Z) - Understanding Virtual Nodes: Oversquashing and Node Heterogeneity [4.59357989139429]
仮想ノード(VN)によるMPNNの拡張は、さまざまなベンチマークのパフォーマンス向上に寄与している。
我々は,VNの役割とその利益に関する包括的理論的分析を行った。
グラフ構造に基づいてノードに対して異なる感度を持つ計算複雑性を持つVNの変種を提案する。
論文 参考訳(メタデータ) (2024-05-22T10:51:12Z) - Collaborative Graph Neural Networks for Attributed Network Embedding [63.39495932900291]
グラフニューラルネットワーク(GNN)は、属性付きネットワーク埋め込みにおいて顕著な性能を示している。
本稿では,ネットワーク埋め込みに適したGNNアーキテクチャであるCulaborative graph Neural Networks-CONNを提案する。
論文 参考訳(メタデータ) (2023-07-22T04:52:27Z) - When Do Graph Neural Networks Help with Node Classification?
Investigating the Impact of Homophily Principle on Node Distinguishability [92.8279562472538]
ホモフィリー原理は、ノード分類タスクにおけるニューラルネットワークよりもグラフネットワーク(GNN)の性能上の優位性の主要な理由であると考えられている。
最近の研究は、ホモフィリーがなくても、同じクラスのノードが類似した近隣パターンを共有する限り、GNNの利点は依然として存在することを示唆している。
論文 参考訳(メタデータ) (2023-04-25T09:40:47Z) - VQ-GNN: A Universal Framework to Scale up Graph Neural Networks using
Vector Quantization [70.8567058758375]
VQ-GNNは、Vector Quantization(VQ)を使用して、パフォーマンスを損なうことなく、畳み込みベースのGNNをスケールアップするための普遍的なフレームワークである。
我々のフレームワークは,グラフ畳み込み行列の低ランク版と組み合わせた量子化表現を用いて,GNNの「隣の爆発」問題を回避する。
論文 参考訳(メタデータ) (2021-10-27T11:48:50Z) - NEMR: Network Embedding on Metric of Relation [2.2430705836627154]
本稿では,関係計量空間におけるノードの埋め込みを効率的に学習する,NEMR(Network Embedding on the Metric of Relation)と呼ばれる新しい手法を提案する。
私たちのNEMRは、マルチパスの等価性だけでなく、ノードの埋め込みを推論するときのシングルパスの自然な順序も考慮しています。
いくつかの公開データセットの実験結果は、NEMRが関連する推論タスクにおいて最先端の手法より優れていることを示している。
論文 参考訳(メタデータ) (2021-01-20T08:35:03Z) - Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。
複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。
本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
論文 参考訳(メタデータ) (2020-06-26T17:03:06Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。