論文の概要: EmbedPart: Embedding-Driven Graph Partitioning for Scalable Graph Neural Network Training

• arxiv url: http://arxiv.org/abs/2604.01000v1
• Date: Wed, 01 Apr 2026 15:00:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:32.048737
• Title: EmbedPart: Embedding-Driven Graph Partitioning for Scalable Graph Neural Network Training
• Title（参考訳）: EmbedPart: スケーラブルなグラフニューラルネットワークトレーニングのための埋め込み駆動グラフ分割
• Authors: Nikolai Merkel, Ruben Mayer, Volker Markl, Hans-Arno Jacobsen,
• Abstract要約: グラフニューラルネットワーク(GNN)は、グラフ構造化データの学習に広く利用されている。 スケーラブルな分散トレーニングを実現するために、グラフは複数のマシンに分散する小さなパーティションに分割される。 速度と品質を両立する埋め込み型パーティショニング手法である EmbedPart を提案する。
• 参考スコア（独自算出の注目度）: 16.727213894224786
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Graph Neural Networks (GNNs) are widely used for learning on graph-structured data, but scaling GNN training to massive graphs remains challenging. To enable scalable distributed training, graphs are divided into smaller partitions that are distributed across multiple machines such that inter-machine communication is minimized and computational load is balanced. In practice, existing partitioning approaches face a fundamental trade-off between partitioning overhead and partitioning quality. We propose EmbedPart, an embedding-driven partitioning approach that achieves both speed and quality. Instead of operating directly on irregular graph structures, EmbedPart leverages node embeddings produced during the actual GNN training workload and clusters these dense embeddings to derive a partitioning. EmbedPart achieves more than 100x speedup over Metis while maintaining competitive partitioning quality and accelerating distributed GNN training. Moreover, EmbedPart naturally supports graph updates and fast repartitioning, and can be applied to graph reordering to improve data locality and accelerate single-machine GNN training. By shifting partitioning from irregular graph structures to dense embeddings, EmbedPart enables scalable and high-quality graph data optimization.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)はグラフ構造化データの学習に広く使用されているが、GNNトレーニングを大規模グラフに拡張することは依然として難しい。 スケーラブルな分散トレーニングを実現するため、グラフは複数のマシンに分散する小さなパーティションに分割され、マシン間通信が最小化され、計算負荷が均衡する。 実際には、既存のパーティショニングアプローチは、パーティショニングオーバーヘッドとパーティショニング品質の基本的なトレードオフに直面しています。 速度と品質を両立する埋め込み型パーティショニング手法である EmbedPart を提案する。 EmbedPartは、不規則なグラフ構造を直接操作する代わりに、実際のGNNトレーニングワークロード中に生成されたノードの埋め込みを活用して、これらの密な埋め込みをクラスタ化し、パーティショニングを導出する。 EmbedPartは、競争力のあるパーティショニング品質を維持しながら、Metis上で100倍以上のスピードアップを実現し、分散GNNトレーニングを加速する。 さらに、EmbedPartはグラフ更新と高速リパーティショニングを自然にサポートし、グラフのリオーダーに適用することで、データのローカリティを改善し、シングルマシンのGNNトレーニングを加速することができる。 不規則なグラフ構造から密な埋め込みへのパーティショニングをシフトすることで、EmbedPartはスケーラブルで高品質なグラフデータの最適化を可能にします。

関連論文リスト

• MassiveGNN: Efficient Training via Prefetching for Massively Connected Distributed Graphs [11.026326555186333]
  本稿では,現在最先端のAmazon DistDGL分散GNNフレームワーク上に,パラメータ化された連続プリフェッチと消去方式を提案する。 NERSC(National Energy Research Scientific Computing Center)のPerlmutterスーパーコンピュータでは、エンドツーエンドのトレーニング性能が15～40%向上している。
  論文  参考訳（メタデータ） (2024-10-30T05:10:38Z)
• Distributed Training of Large Graph Neural Networks with Variable Communication Rates [71.7293735221656]
  大きなグラフ上でグラフニューラルネットワーク(GNN)をトレーニングすることは、大きなメモリとコンピューティング要件のために、ユニークな課題を提示する。 グラフを複数のマシンに分割する分散GNNトレーニングは、大きなグラフ上でGNNをトレーニングするための一般的なアプローチである。 本稿では,学習モデルの精度を損なうことなく,分散GNNトレーニングにおける通信量を削減するための可変圧縮方式を提案する。
  論文  参考訳（メタデータ） (2024-06-25T14:57:38Z)
• An Experimental Comparison of Partitioning Strategies for Distributed Graph Neural Network Training [13.354505458409957]
  グラフニューラルネットワーク(GNN)は,グラフ構造化データから学習可能な深層学習の領域として注目されている。 本稿では,分散GNN学習におけるグラフ分割の有効性について検討する。 高品質なグラフ分割は、GNNトレーニングを高速化し、メモリ消費を減らすために非常に効果的な最適化であることがわかった。
  論文  参考訳（メタデータ） (2023-08-29T19:47:31Z)
• Communication-Free Distributed GNN Training with Vertex Cut [63.22674903170953]
  CoFree-GNNは、コミュニケーションのないトレーニングを実装することで、トレーニングプロセスを大幅に高速化する、分散GNNトレーニングフレームワークである。 我々は、CoFree-GNNが既存の最先端のGNNトレーニングアプローチよりも最大10倍高速なGNNトレーニングプロセスを実証した。
  論文  参考訳（メタデータ） (2023-08-06T21:04:58Z)
• Graph Ladling: Shockingly Simple Parallel GNN Training without Intermediate Communication [100.51884192970499]
  GNNは、グラフを学習するニューラルネットワークの強力なファミリーである。 GNNのスケーリングは、肥大化または拡大によって、不健康な勾配、過度なスムースメント、情報のスカッシングといった問題に悩まされる。 本稿では,現在のGNNの深層化や拡張ではなく,GNNに適したモデルスープをデータ中心の視点で表現することを提案する。
  論文  参考訳（メタデータ） (2023-06-18T03:33:46Z)
• Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
  グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。 GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。 提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
  論文  参考訳（メタデータ） (2022-03-03T09:53:53Z)
• Increase and Conquer: Training Graph Neural Networks on Growing Graphs [116.03137405192356]
  本稿では,このグラフからBernoulliをサンプリングしたグラフ上でGNNをトレーニングすることで,WNN(Graphon Neural Network)を学習する問題を考察する。 これらの結果から着想を得た大規模グラフ上でGNNを学習するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-07T15:05:59Z)
• Distributed Training of Graph Convolutional Networks using Subgraph Approximation [72.89940126490715]
  本稿では,グラフの複数の分割にまたがる失われる情報をサブグラフ近似スキームで緩和するトレーニング戦略を提案する。 サブグラフ近似アプローチは、分散トレーニングシステムが単一マシン精度で収束するのに役立つ。
  論文  参考訳（メタデータ） (2020-12-09T09:23:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。