論文の概要: PreGS: A Parameter-Transfer-Based Multi-Expert Graph Neural Network for Node Classification
- arxiv url: http://arxiv.org/abs/2609.26310v1
- Date: Tue, 22 Sep 2026 12:16:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:04.357174
- Title: PreGS: A Parameter-Transfer-Based Multi-Expert Graph Neural Network for Node Classification
- Title(参考訳): PreGS: ノード分類のためのパラメータ変換に基づくマルチスペクトルグラフニューラルネットワーク
- Abstract要約: グラフニューラルネットワークは、グラフ近傍からの情報を集約することで、ノード分類において強力なパフォーマンスを実現している。
本稿ではパラメータ転送に基づくマルチエキスパートグラフニューラルネットワークフレームワークであるPreGSを提案する。
PreGSとPreGSv2は、代表グラフニューラルネットワークベースラインと競合するパフォーマンスを達成する。
- 参考スコア(独自算出の注目度): 8.462209415744098
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural networks have achieved strong performance in node classification by aggregating information from graph neighborhoods. However, a single aggregation mechanism may be insufficient to capture diverse structural patterns across graph datasets. Moreover, independently training multiple structural branches can introduce substantial overhead without necessarily producing stable node representations. To address these issues, this paper proposes PreGS, a parameter-transfer-based multi-expert graph neural network framework. PreGS first pretrains a multi-head graph attention network (GAT) and transfers the linear transformation weights of its first-layer attention heads to multiple GraphSAGE experts. The transferred experts are frozen and used as complementary structural branches. The fused raw node features, GAT head representations, and GraphSAGE expert representations are fed into a multilayer perceptron (MLP), whose output is further fused with the pretrained GAT logits. Based on PreGS, we further develop PreGSv2, which introduces source-level weighting and a structural gating mechanism for adaptive multi-source feature integration. Experiments on eight public graph datasets show that PreGS and PreGSv2 achieve competitive performance against representative graph neural network baselines. Ablation, parameter-transfer, sensitivity, aggregator, visualization, and training-time analyses further validate the effectiveness and stability of the proposed framework. The code and datasets are available at https://github.com/LH-Czc/PreGS.
- Abstract(参考訳): グラフニューラルネットワークは、グラフ近傍からの情報を集約することで、ノード分類において強力なパフォーマンスを実現している。
しかし、単一のアグリゲーションメカニズムは、グラフデータセット全体にわたる多様な構造パターンをキャプチャするには不十分である。
さらに、複数の構造分岐を独立にトレーニングすることで、必ずしも安定したノード表現を生成することなく、かなりのオーバーヘッドを発生させることができる。
これらの問題に対処するために,パラメータ変換に基づくマルチエキスパートグラフニューラルネットワークフレームワークであるPreGSを提案する。
PreGSはまず、マルチヘッドグラフアテンションネットワーク(GAT)を事前トレーニングし、その第一層アテンションヘッドの線形変換重みを複数のGraphSAGEエキスパートに転送する。
移行した専門家は凍結され、補完的な構造枝として使用される。
融合された生ノード特徴、GATヘッド表現、グラフSAGEエキスパート表現は、予め訓練されたGATロジットとさらに融合した多層パーセプトロン(MLP)に入力される。
PreGSをベースとして、ソースレベルの重み付けと、適応型マルチソース機能統合のための構造ゲーティング機構を導入するPreGSv2をさらに発展させる。
8つの公開グラフデータセットの実験は、PreGSとPreGSv2が代表グラフニューラルネットワークベースラインと競合するパフォーマンスを達成することを示している。
アブレーション,パラメータ伝達,感度,アグリゲータ,可視化,トレーニング時間解析は,提案フレームワークの有効性と安定性をさらに検証する。
コードとデータセットはhttps://github.com/LH-Czc/PreGSで公開されている。
関連論文リスト
- Parameter-Free Structural-Diversity Message Passing for Graph Neural Networks [8.462209415744098]
グラフニューラルネットワーク(GNN)はノード分類などの構造化データモデリングタスクにおいて顕著な性能を示した。
本稿では,構造的多様性に基づくパラメータフリーグラフニューラルネットワークフレームワークを提案する。
このフレームワークは構造多様性理論にインスパイアされ、統一された構造多様性メッセージパッシング機構を設計する。
論文 参考訳(メタデータ) (2025-08-27T13:42:45Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。
EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。
提案手法はいくつかの最先端手法より一貫して優れている。
論文 参考訳(メタデータ) (2022-11-19T09:08:43Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳(メタデータ) (2022-03-03T09:53:53Z) - Simplifying approach to Node Classification in Graph Neural Networks [7.057970273958933]
グラフニューラルネットワークのノード特徴集約ステップと深さを分離し、異なる集約特徴が予測性能にどのように寄与するかを経験的に分析する。
集約ステップによって生成された全ての機能が有用であるとは限らないことを示し、これらの少ない情報的特徴を用いることは、GNNモデルの性能に有害であることを示す。
提案モデルでは,提案モデルが最先端のGNNモデルと同等あるいはそれ以上の精度を達成可能であることを実証的に示す。
論文 参考訳(メタデータ) (2021-11-12T14:53:22Z) - Improving Graph Neural Networks with Simple Architecture Design [7.057970273958933]
グラフニューラルネットワークの重要な設計戦略をいくつか紹介する。
簡便で浅いモデルである特徴選択グラフニューラルネットワーク(FSGNN)を紹介します。
提案手法は,他のGNNモデルよりも優れており,ノード分類タスクの精度が最大64%向上していることを示す。
論文 参考訳(メタデータ) (2021-05-17T06:46:01Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training [62.73470368851127]
グラフ表現学習は現実世界の問題に対処する強力な手法として登場した。
自己教師付きグラフニューラルネットワーク事前トレーニングフレームワークであるGraph Contrastive Codingを設計する。
3つのグラフ学習タスクと10のグラフデータセットについて実験を行った。
論文 参考訳(メタデータ) (2020-06-17T16:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。