論文の概要: SNI-GNN: SmartNIC-Assisted Full-Graph GNN Training with In-Network Embedding Prediction
- arxiv url: http://arxiv.org/abs/2608.06441v1
- Date: Thu, 06 Aug 2026 11:03:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.248118
- Title: SNI-GNN: SmartNIC-Assisted Full-Graph GNN Training with In-Network Embedding Prediction
- Title（参考訳）: SNI-GNN: ネットワーク内埋め込み予測を用いたSmartNIC-Assisted Full-Graph GNN Training
- Abstract要約: フルグラフのGNNは高い精度を提供するが、重くて不規則なノード間交換のため、マルチサーバクラスタではスケールが不十分である。
本稿では,SNI-GNNを提案する。SNI-GNNは,ネットワーク上のリモート埋め込みを予測することにより,通信の精度を保ちながら通信を削減できる。
- 参考スコア（独自算出の注目度）: 21.234484336759262
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Full-graph GNN training delivers high accuracy but scales poorly on multi-server clusters due to heavy, irregular inter-node embedding exchanges. We present SNI-GNN, a SmartNIC-assisted full-graph training system that reduces communication while preserving accuracy by predicting remote embeddings in-network. SNI-GNN deploys a lightweight linear-trend predictor on SmartNICs to refine cached historical embeddings, coupled with an importance-based boundary-node sampling policy and an asynchronous DPU--GPU data pipeline with intermediate-result reuse. We provide error and convergence bounds showing that predictor bias remains controlled under bounded second-order dynamics and yields standard non-convex convergence with inexact gradients. Implemented on NVIDIA BlueField-3, SNI-GNN integrates with state-of-the-art full-graph systems, cuts communication by 21--45\%, achieves 1.3--3.6$\times$ end-to-end speedups over BNS-GCN and up to 1.29$\times$ over baseline SANCUS, with accuracy loss $\leq 0.01$, and scales efficiently to 16 GPUs on graphs with up to tens of millions of edges. These results indicate SmartNIC-based in-network prediction is a practical complement to partitioning and compression techniques for communication-efficient full-graph GNN training at scale.
- Abstract（参考訳）: フルグラフのGNNトレーニングは高い精度を提供するが、重くて不規則なノード間埋め込み交換のため、マルチサーバクラスタではスケールが不十分である。
本稿では,SNI-GNNを提案する。SNI-GNNは,ネットワーク上のリモート埋め込みを予測することにより,通信の精度を保ちながら通信を削減できる。
SNI-GNNは、キャッシュされた履歴埋め込みを洗練するために、SmartNICsに軽量な線形トレンド予測器をデプロイし、重要ベースのバウンダリノードサンプリングポリシと、中間再使用を伴う非同期DPU-GPUデータパイプラインを併用する。
誤差と収束バウンダリは、予測バイアスが有界な二次力学の下で制御され続け、不正確な勾配を持つ標準の非凸収束が得られることを示す。
NVIDIA BlueField-3で実装されたSNI-GNNは、最先端のフルグラフシステムと統合され、通信を21-45\%削減し、BNS-GCN上の1.3-3.6$\times$エンドツーエンドのスピードアップと1.29$\times$オーバーベースラインSANCUS、精度損失$\leq 0.01$、最大数千万エッジのグラフ上の16GPUに効率よくスケールする。
これらの結果から,SmartNICを用いたネットワーク内予測は,大規模通信効率の高い全グラフGNN訓練のための分割・圧縮手法の実践的補完となることが示唆された。
関連論文リスト
- Distributed Training of Large Graph Neural Networks with Variable Communication Rates [71.7293735221656]
大きなグラフ上でグラフニューラルネットワーク(GNN)をトレーニングすることは、大きなメモリとコンピューティング要件のために、ユニークな課題を提示する。
グラフを複数のマシンに分割する分散GNNトレーニングは、大きなグラフ上でGNNをトレーニングするための一般的なアプローチである。
本稿では,学習モデルの精度を損なうことなく,分散GNNトレーニングにおける通信量を削減するための可変圧縮方式を提案する。
論文 参考訳（メタデータ） (2024-06-25T14:57:38Z) - T-GAE: Transferable Graph Autoencoder for Network Alignment [79.89704126746204]
T-GAEはグラフオートエンコーダフレームワークで、GNNの転送性と安定性を活用して、再トレーニングなしに効率的なネットワークアライメントを実現する。
実験の結果、T-GAEは最先端の最適化手法と最高のGNN手法を最大38.7%、50.8%で上回っていることがわかった。
論文 参考訳（メタデータ） (2023-10-05T02:58:29Z) - Staleness-Alleviated Distributed GNN Training via Online
Dynamic-Embedding Prediction [13.575053193557697]
本稿では,新しい分散GNNトレーニングフレームワークSAT(Staleness-Alleviated Training)を提案する。
SATのキーとなる考え方は、GNNの埋め込み進化を時間グラフとしてモデル化し、その上にモデルを構築し、将来の埋め込みを予測することである。
実験により,SATは埋込安定性を効果的に低減し,より優れた性能と収束速度を実現することができることを示した。
論文 参考訳（メタデータ） (2023-08-25T16:10:44Z) - GNNPipe: Scaling Deep GNN Training with Pipelined Model Parallelism [10.723541176359452]
分散グラフニューラルネットワーク(GNN)トレーニングでは,コミュニケーションが重要なボトルネックとなっている。
GNNPipeは、分散フルグラフの深層GNNトレーニングをスケールする新しいアプローチである。
論文 参考訳（メタデータ） (2023-08-19T18:44:14Z) - Adaptive Message Quantization and Parallelization for Distributed
Full-graph GNN Training [6.557328947642343]
大きなグラフ上のグラフニューラルネットワーク(GNN)の分散フルグラフトレーニングは、帯域幅の要求と時間を要する。
本稿では,分散フルグラフ学習を高速化する効率的なGNNトレーニングシステムであるAdaQPを提案する。
論文 参考訳（メタデータ） (2023-06-02T09:02:09Z) - Expediting Distributed DNN Training with Device Topology-Aware Graph
Deployment [18.021259939659874]
TAGは、最適化されたDNNトレーニンググラフとそのデバイストポロジへのデプロイを導出する自動システムである。
既存のスキームと比較して最大4.56倍のトレーニングスピードアップを実現可能であることを示す。
論文 参考訳（メタデータ） (2023-02-13T06:30:24Z) - A Comprehensive Study on Large-Scale Graph Training: Benchmarking and
Rethinking [124.21408098724551]
グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である
本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。
提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
論文 参考訳（メタデータ） (2022-10-14T03:43:05Z) - Distributed Graph Neural Network Training with Periodic Historical
Embedding Synchronization [9.503080586294406]
グラフニューラルネットワーク(GNN)は、ソーシャルネットワーク、レコメンダシステム、ナレッジグラフなどの様々なアプリケーションで広く使われている。
従来のサンプリングベースの手法は、エッジとノードをドロップすることでGNNを加速し、グラフの整合性とモデル性能を損なう。
本稿では,新しい分散GNNトレーニングフレームワークであるDIstributed Graph Embedding SynchronizaTion (DIGEST)を提案する。
論文 参考訳（メタデータ） (2022-05-31T18:44:53Z) - Training Graph Neural Networks with 1000 Layers [133.84813995275988]
我々は、GNNのメモリとパラメータ効率を向上させるために、可逆接続、グループ畳み込み、重み付け、平衡モデルについて検討する。
我々の知る限りでは、RevGNN-Deepは文学で最も深いGNNである。
論文 参考訳（メタデータ） (2021-06-14T15:03:00Z) - A Unified Lottery Ticket Hypothesis for Graph Neural Networks [82.31087406264437]
本稿では,グラフ隣接行列とモデルの重み付けを同時に行う統一GNNスペーシフィケーション(UGS)フレームワークを提案する。
グラフ宝くじ(GLT)をコアサブデータセットとスパースサブネットワークのペアとして定義することにより、人気のある宝くじチケット仮説を初めてGNNsにさらに一般化します。
論文 参考訳（メタデータ） (2021-02-12T21:52:43Z) - Bayesian Graph Neural Networks with Adaptive Connection Sampling [62.51689735630133]
グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。
提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
論文 参考訳（メタデータ） (2020-06-07T07:06:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。