Fugu-MT 論文翻訳(概要): D3-GNN: Dynamic Distributed Dataflow for Streaming Graph Neural Networks

論文の概要: D3-GNN: Dynamic Distributed Dataflow for Streaming Graph Neural Networks

arxiv url: http://arxiv.org/abs/2409.09079v1
Date: Tue, 10 Sep 2024 11:00:43 GMT
ステータス: 処理完了
システム内更新日: 2024-09-17 22:28:35.679286
Title: D3-GNN: Dynamic Distributed Dataflow for Streaming Graph Neural Networks
Title（参考訳）: D3-GNN: グラフニューラルネットワークのストリーミングのための動的分散データフロー
Authors: Rustam Guliyev, Aparajita Haldar, Hakan Ferhatosmanoglu,
Abstract要約: ストリーミンググラフ上のグラフニューラルネットワーク(GNN)モデルには、その動的状態を継続的にキャプチャするアルゴリズム上の課題が伴う。 D3-GNNは、オンラインクエリ設定下でリアルタイムグラフ更新を処理するように設計された、最初の分散並列型ストリーミングGNNシステムである。
参考スコア（独自算出の注目度）: 2.3283463706065763
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Graph Neural Network (GNN) models on streaming graphs entail algorithmic challenges to continuously capture its dynamic state, as well as systems challenges to optimize latency, memory, and throughput during both inference and training. We present D3-GNN, the first distributed, hybrid-parallel, streaming GNN system designed to handle real-time graph updates under online query setting. Our system addresses data management, algorithmic, and systems challenges, enabling continuous capturing of the dynamic state of the graph and updating node representations with fault-tolerance and optimal latency, load-balance, and throughput. D3-GNN utilizes streaming GNN aggregators and an unrolled, distributed computation graph architecture to handle cascading graph updates. To counteract data skew and neighborhood explosion issues, we introduce inter-layer and intra-layer windowed forward pass solutions. Experiments on large-scale graph streams demonstrate that D3-GNN achieves high efficiency and scalability. Compared to DGL, D3-GNN achieves a significant throughput improvement of about 76x for streaming workloads. The windowed enhancement further reduces running times by around 10x and message volumes by up to 15x at higher parallelism.
Abstract（参考訳）: ストリーミンググラフ上のグラフニューラルネットワーク(GNN)モデルには、動的状態を継続的にキャプチャするアルゴリズム上の課題と、推論とトレーニングの両方でレイテンシ、メモリ、スループットを最適化するシステムの課題が含まれている。 D3-GNNは、オンラインクエリ設定下でリアルタイムグラフ更新を処理するように設計された、最初の分散並列型ストリーミングGNNシステムである。我々のシステムは,データ管理,アルゴリズム,システムの課題に対処し,グラフの動的状態を連続的にキャプチャし,フォールトトレランスと最適なレイテンシ,ロードバランス,スループットでノード表現を更新する。 D3-GNNは、ストリーミングGNNアグリゲータと、カスケーディンググラフ更新を処理するために、アンロールされた分散計算グラフアーキテクチャを利用する。データスキューや近所の爆発問題に対処するため, 層間および層間フォワードパスソリューションを導入する。大規模グラフストリームの実験により、D3-GNNは高い効率とスケーラビリティを実現することが示された。 DGLと比較して、D3-GNNはストリーミングワークロードで約76倍のスループット向上を実現している。ウィンドウ拡張により、ランニング時間が約10倍、メッセージボリュームが最大15倍、高い並列性が向上する。

関連論文リスト

A Data-Driven Approach to Dataflow-Aware Online Scheduling for Graph Neural Network Inference [3.734578883171713]
GNN推論におけるデータフローを考慮した遅延予測のためのデータ駆動フレームワークを提案する。我々の回帰器は、与えられたグラフに対して最大91.28%の精度で最適なデータフローを予測でき、平均絶対パーセンテージ誤差(MAPE)は3.78%である。本稿では、これらの回帰器を用いてスケジューリング決定を強化するオンラインスケジューリングアルゴリズムを提案する。
論文参考訳（メタデータ） (2024-11-25T12:38:59Z)
NeutronStream: A Dynamic GNN Training Framework with Sliding Window for Graph Streams [12.365456024506901]
NeutronStreamは動的グラフニューラルネットワーク(GNN)モデルをトレーニングするためのフレームワークである。グラフ更新の空間的および時間的依存関係をキャプチャする。中性子ストリームは1.48Xから5.87Xまでのスピードアップを実現し、平均精度は3.97%向上した。
論文参考訳（メタデータ） (2023-12-05T03:58:05Z)
GNNFlow: A Distributed Framework for Continuous Temporal GNN Learning on Dynamic Graphs [11.302970701867844]
本稿では,効率的な時間的グラフ表現学習のための分散フレームワークであるGNNFlowを紹介する。 GNNFlowは、負荷バランスを確保するために、静的スケジューリングを備えた複数のマシンでの分散トレーニングをサポートする。実験の結果,GNNFlowは既存のシステムに比べて最大21.1倍高速な継続的学習を実現することがわかった。
論文参考訳（メタデータ） (2023-11-29T07:30:32Z)
Dynamic Causal Explanation Based Diffusion-Variational Graph Neural Network for Spatio-temporal Forecasting [60.03169701753824]
時間予測のための動的拡散型グラフニューラルネットワーク(DVGNN)を提案する。提案したDVGNNモデルは最先端のアプローチよりも優れ,Root Mean Squared Errorの結果が優れている。
論文参考訳（メタデータ） (2023-05-16T11:38:19Z)
Temporal Aggregation and Propagation Graph Neural Networks for Dynamic Representation [67.26422477327179]
時間グラフは連続時間を通してノード間の動的相互作用を示す。本研究では,周辺地域全体と時間的グラフ畳み込みの新たな手法を提案する。提案するTAP-GNNは,予測性能とオンライン推論遅延の両面で,既存の時間グラフ手法よりも優れた性能を示す。
論文参考訳（メタデータ） (2023-04-15T08:17:18Z)
Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
論文参考訳（メタデータ） (2022-09-20T14:41:37Z)
Instant Graph Neural Networks for Dynamic Graphs [18.916632816065935]
Instant Graph Neural Network (InstantGNN) を提案する。提案手法は,時間を要する反復計算を回避し,表現の即時更新と即時予測を可能にする。本モデルでは,既存手法よりも高精度かつ高次精度で最先端の精度を実現する。
論文参考訳（メタデータ） (2022-06-03T03:27:42Z)
Increase and Conquer: Training Graph Neural Networks on Growing Graphs [116.03137405192356]
本稿では,このグラフからBernoulliをサンプリングしたグラフ上でGNNをトレーニングすることで,WNN(Graphon Neural Network)を学習する問題を考察する。これらの結果から着想を得た大規模グラフ上でGNNを学習するアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-06-07T15:05:59Z)
Dynamic Graph Convolutional Recurrent Network for Traffic Prediction: Benchmark and Solution [18.309299822858243]
DGCRN(Dynamic Graph Contemporal Recurrent Network)と呼ばれる新しい交通予測フレームワークを提案する。 DGCRNでは、ハイパーネットワークはノード属性から動的特性を活用して抽出するように設計されている。我々は、各時間ステップで動的グラフの細かい反復をモデル化する生成法を最初に採用した。
論文参考訳（メタデータ） (2021-04-30T11:25:43Z)
Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs [77.33781731432163]
我々は,ノード表現の推論を目的とした双曲空間における動的グラフ表現を初めて学習する。本稿では,HVGNNと呼ばれる新しいハイパーボリック変動グラフネットワークを提案する。特に,動力学をモデル化するために,理論的に接地した時間符号化手法に基づく時間gnn(tgnn)を導入する。
論文参考訳（メタデータ） (2021-04-06T01:44:15Z)
Graph Highway Networks [77.38665506495553]
グラフ畳み込みネットワーク(GCN)は、グラフ表現の有効性と効率性から、グラフ表現の学習に広く利用されている。彼らは、多くの層が積み重ねられたとき、学習された表現が類似したベクトルに収束するという悪名高い過度に滑らかな問題に悩まされる。本稿では,GCN学習プロセスにおける均一性と不均一性との間のトレードオフのバランスをとるため,ゲーティングユニットを利用したグラフハイウェイネットワークを提案する。
論文参考訳（メタデータ） (2020-04-09T16:26:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。