論文の概要: Revisiting Pre-Propagation GNNs: Robust Diffusion Operators and Hidden-State Re-Propagation
- arxiv url: http://arxiv.org/abs/2605.25111v1
- Date: Sun, 24 May 2026 14:49:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:18.83423
- Title: Revisiting Pre-Propagation GNNs: Robust Diffusion Operators and Hidden-State Re-Propagation
- Title(参考訳): 伝搬前GNNの再検討:ロバスト拡散演算子と隠れた状態再伝播
- Authors: Zichao Yue, Zhiru Zhang,
- Abstract要約: 前伝播グラフニューラルネットワーク(NN)は、変換からノード特徴の伝搬を分離する。
本稿では,前処理のための頑健なグラフ拡散演算子と,訓練中の隠れ状態再伝播方式を提案する。
提案手法は, PPGNNの検証とテスト精度を改善し, 訓練効率を維持しつつ, メッセージパスGNNの精度を一致させることができる。
- 参考スコア(独自算出の注目度): 10.327331833615125
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pre-propagation graph neural networks (PPGNNs) decouple node feature propagation from transformation: graph diffusion is performed once as preprocessing, and training reduces to dense per-node transformations. This design enables mini-batch training without inter-node dependencies, avoids repeated sparse matrix--matrix multiplications, and better matches modern accelerators optimized for dense compute. However, their expressivity remains unclear, and empirical results show a gap between PPGNNs and their message-passing counterparts on commonly used graph benchmarks, especially heterophilic ones. In this paper, we propose a suite of robust graph diffusion operators for preprocessing and a few-shot hidden-state re-propagation scheme during training. Our methods improve the validation and test accuracy of PPGNNs, enabling them to match the accuracy of message-passing GNNs while maintaining training efficiency.
- Abstract(参考訳): プレプロパゲーショングラフニューラルネットワーク(PPGNN)は、ノードの特徴伝播を変換から切り離す: グラフ拡散は前処理として一度実行され、トレーニングはノード毎の密度の高い変換に還元される。
この設計により、ノード間の依存関係のないミニバッチトレーニングが可能となり、スパース行列-行列乗算の繰り返しを回避することができ、より高密度な計算に最適化された現代のアクセラレータに適合する。
しかし、その表現性はまだ不明であり、実証的な結果は、よく使われるグラフベンチマーク、特にヘテロ親和性ベンチマークにおいて、PGNNとメッセージパッシングの相違を示している。
本稿では,前処理のための頑健なグラフ拡散演算子と,学習中の隠れ状態の再伝搬方式を提案する。
提案手法は, PPGNNの検証とテスト精度を改善し, 訓練効率を維持しつつ, メッセージパスGNNの精度を一致させることができる。
関連論文リスト
- Graph Learning at Scale: Characterizing and Optimizing Pre-Propagation GNNs [9.21955649907066]
プレプロパゲーションGNNは、トレーニングから前処理を通じて機能の伝搬を分離する新しいモデルのクラスである。
本稿では,PP-GNNの学習効率,スケーラビリティ,精度について,グラフサンプリングに基づく手法と比較し,包括的特徴付けを行う。
本稿では,PP-GNNトレーニングのスループットを,PP-GNNベースライン上で平均15$times$で向上させる最適化されたデータロード方式と調整されたトレーニング手法を提案する。
論文 参考訳(メタデータ) (2025-04-17T18:20:40Z) - YOSO: You-Only-Sample-Once via Compressed Sensing for Graph Neural Network Training [9.02251811867533]
YOSO(You-Only-Sample-Once)は、予測精度を維持しながら効率的なトレーニングを実現するアルゴリズムである。
YOSOは、正規直交基底計算のような従来の圧縮センシング(CS)法で高価な計算を避けるだけでなく、高い確率精度の保持も保証している。
論文 参考訳(メタデータ) (2024-11-08T16:47:51Z) - Enhancing Graph U-Nets for Mesh-Agnostic Spatio-Temporal Flow Prediction [2.3964255330849356]
非定常流場予測のためのグラフU-Netの可能性を探る。
グラフU-Netを用いたメッシュ非依存時間ロバスト性予測の一貫した流れ場を改善するための新しい手法を提案する。
Graph U-Netアーキテクチャの主要な拡張は、ノードの動的モデリングにおける柔軟性の向上を提供する。
論文 参考訳(メタデータ) (2024-06-06T07:01:36Z) - Efficient Heterogeneous Graph Learning via Random Projection [58.4138636866903]
不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。
最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。
我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
論文 参考訳(メタデータ) (2023-10-23T01:25:44Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Fast Graph Attention Networks Using Effective Resistance Based Graph
Sparsification [70.50751397870972]
FastGATは、スペクトルスペーシフィケーションを用いて、注目に基づくGNNを軽量にし、入力グラフの最適プルーニングを生成する手法である。
我々は,ノード分類タスクのための大規模実世界のグラフデータセット上でFastGATを実験的に評価した。
論文 参考訳(メタデータ) (2020-06-15T22:07:54Z) - Bayesian Graph Neural Networks with Adaptive Connection Sampling [62.51689735630133]
グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。
提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
論文 参考訳(メタデータ) (2020-06-07T07:06:35Z) - Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文 参考訳(メタデータ) (2020-04-19T09:43:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。