論文の概要: GSR-GNN: Training Acceleration and Memory-Saving Framework of Deep GNNs on Circuit Graph

• arxiv url: http://arxiv.org/abs/2603.27156v1
• Date: Sat, 28 Mar 2026 06:47:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:44.818859
• Title: GSR-GNN: Training Acceleration and Memory-Saving Framework of Deep GNNs on Circuit Graph
• Title（参考訳）: GSR-GNN:回路グラフによる深部GNNの高速化とメモリ節約フレームワーク
• Authors: Yuebo Luo, Shiyang Li, Yifei Feng, Vishal Kancharla, Shaoyi Huang, Caiwen Ding,
• Abstract要約: グラフニューラルネットワーク(GNN)は、回路解析に強い期待を示すが、現代の大規模回路グラフへのスケーリングは、GPUメモリとトレーニングコストによって制限される。 我々は、回路グラフのための深いGNNを再検討し、トレーニング可能な場合、浅いアーキテクチャよりも大幅に優れていることを示す。 我々は,最大数百層までのGNNをトレーニングし,計算とメモリのオーバーヘッドを低減できるGSR-GNN(Grouped-Sparse-Reversible GNN)を提案する。
• 参考スコア（独自算出の注目度）: 16.296483991336228
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph Neural Networks (GNNs) show strong promise for circuit analysis, but scaling to modern large-scale circuit graphs is limited by GPU memory and training cost, especially for deep models. We revisit deep GNNs for circuit graphs and show that, when trainable, they significantly outperform shallow architectures, motivating an efficient, domain-specific training framework. We propose Grouped-Sparse-Reversible GNN (GSR-GNN), which enables training GNNs with up to hundreds of layers while reducing both compute and memory overhead. GSR-GNN integrates reversible residual modules with a group-wise sparse nonlinear operator that compresses node embeddings without sacrificing task-relevant information, and employs an optimized execution pipeline to eliminate fragmented activation storage and reduce data movement. On sampled circuit graphs, GSR-GNN achieves up to 87.2\% peak memory reduction and over 30$\times$ training speedup with negligible degradation in correlation-based quality metrics, making deep GNNs practical for large-scale EDA workloads.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、回路解析に強い期待を示すが、現代の大規模回路グラフへのスケーリングは、特にディープモデルにおいて、GPUメモリとトレーニングコストによって制限される。 我々は、回路グラフのための深いGNNを再検討し、トレーニング可能な場合、浅いアーキテクチャを著しく上回り、効率的でドメイン固有のトレーニングフレームワークを動機付けていることを示す。 我々は,最大数百層までのGNNをトレーニングし,計算とメモリのオーバーヘッドを低減できるGSR-GNN(Grouped-Sparse-Reversible GNN)を提案する。 GSR-GNNは、タスク関連情報を犠牲にすることなくノード埋め込みを圧縮するグループワイスな非線形演算子と可逆的残余モジュールを統合し、断片化されたアクティベーションストレージを排除し、データ移動を減らすために最適化された実行パイプラインを使用する。 サンプリングされた回路グラフ上では、GSR-GNNは最大87.2\%のピークメモリ削減と30$\times以上のトレーニングスピードアップを実現し、相関ベースの品質指標の無視可能な低下を実現している。

関連論文リスト

• CATGNN: Cost-Efficient and Scalable Distributed Training for Graph Neural Networks [7.321893519281194]
  既存の分散システムは、グラフパーティショニングのためにメモリ内のグラフ全体をロードします。 低コストでスケーラブルな分散GNNトレーニングシステムであるCATGNNを提案する。 また、分散GNNトレーニングのためのSPRingという新しいストリーミング分割アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-04-02T20:55:39Z)
• Cached Operator Reordering: A Unified View for Fast GNN Training [24.917363701638607]
  グラフニューラルネットワーク(GNN)は、構造化グラフデータを扱う強力なツールであり、ノード分類、グラフ分類、クラスタリングといったタスクに対処する。 しかし、GNN計算のスパース性は、従来のディープニューラルネットワークと比較してパフォーマンス最適化に新たな課題をもたらす。 GNN計算,I/O,メモリの統一的なビューを提供することで,これらの課題に対処する。
  論文  参考訳（メタデータ） (2023-08-23T12:27:55Z)
• Communication-Free Distributed GNN Training with Vertex Cut [63.22674903170953]
  CoFree-GNNは、コミュニケーションのないトレーニングを実装することで、トレーニングプロセスを大幅に高速化する、分散GNNトレーニングフレームワークである。 我々は、CoFree-GNNが既存の最先端のGNNトレーニングアプローチよりも最大10倍高速なGNNトレーニングプロセスを実証した。
  論文  参考訳（メタデータ） (2023-08-06T21:04:58Z)
• FreshGNN: Reducing Memory Access via Stable Historical Embeddings for Graph Neural Network Training [41.85974344854774]
  大規模で現実的なグラフ上でグラフニューラルネットワーク(GNN)モデルをトレーニングする際の重要なパフォーマンスボトルネックは、ノード機能をGPUにロードすることだ。 本稿では,GNNノードの埋め込みを格納・再利用するための履歴キャッシュを活用する,汎用的なGNNミニバッチトレーニングフレームワークであるFreshGNNを提案する。 FreshGNNはogbn-papers100MやMAG240Mなどのグラフデータセットのトレーニング速度を3.4倍から20.5倍に高速化し、メモリアクセスを59%削減する。
  論文  参考訳（メタデータ） (2023-01-18T12:51:13Z)
• A Comprehensive Study on Large-Scale Graph Training: Benchmarking and Rethinking [124.21408098724551]
  グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である 本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。 提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
  論文  参考訳（メタデータ） (2022-10-14T03:43:05Z)
• Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural Networks [52.566735716983956]
  本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。 LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。 提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
  論文  参考訳（メタデータ） (2022-07-18T14:23:31Z)
• Training Graph Neural Networks with 1000 Layers [133.84813995275988]
  我々は、GNNのメモリとパラメータ効率を向上させるために、可逆接続、グループ畳み込み、重み付け、平衡モデルについて検討する。 我々の知る限りでは、RevGNN-Deepは文学で最も深いGNNである。
  論文  参考訳（メタデータ） (2021-06-14T15:03:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。