論文の概要: GNN at the Edge: Cost-Efficient Graph Neural Network Processing over
Distributed Edge Servers
- arxiv url: http://arxiv.org/abs/2210.17281v1
- Date: Mon, 31 Oct 2022 13:03:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 20:08:39.690030
- Title: GNN at the Edge: Cost-Efficient Graph Neural Network Processing over
Distributed Edge Servers
- Title（参考訳）: GNN at the Edge: 分散エッジサーバ上での費用効率の良いグラフニューラルネットワーク処理
- Authors: Liekang Zeng, Chongyu Yang, Peng Huang, Zhi Zhou, Shuai Yu, Xu Chen
- Abstract要約: グラフニューラルネットワーク(GNN)はまだ探索中であり、その広範な採用に対する大きな違いを示している。
本稿では,多層ヘテロジニアスエッジネットワーク上での分散GNN処理のコスト最適化について検討する。
提案手法は, 高速収束速度で95.8%以上のコスト削減を行い, デファクトベースラインよりも優れた性能が得られることを示す。
- 参考スコア（独自算出の注目度）: 24.109721494781592
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Edge intelligence has arisen as a promising computing paradigm for supporting
miscellaneous smart applications that rely on machine learning techniques.
While the community has extensively investigated multi-tier edge deployment for
traditional deep learning models (e.g. CNNs, RNNs), the emerging Graph Neural
Networks (GNNs) are still under exploration, presenting a stark disparity to
its broad edge adoptions such as traffic flow forecasting and location-based
social recommendation. To bridge this gap, this paper formally studies the cost
optimization for distributed GNN processing over a multi-tier heterogeneous
edge network. We build a comprehensive modeling framework that can capture a
variety of different cost factors, based on which we formulate a cost-efficient
graph layout optimization problem that is proved to be NP-hard. Instead of
trivially applying traditional data placement wisdom, we theoretically reveal
the structural property of quadratic submodularity implicated in GNN's unique
computing pattern, which motivates our design of an efficient iterative
solution exploiting graph cuts. Rigorous analysis shows that it provides
parameterized constant approximation ratio, guaranteed convergence, and exact
feasibility. To tackle potential graph topological evolution in GNN processing,
we further devise an incremental update strategy and an adaptive scheduling
algorithm for lightweight dynamic layout optimization. Evaluations with
real-world datasets and various GNN benchmarks demonstrate that our approach
achieves superior performance over de facto baselines with more than 95.8% cost
eduction in a fast convergence speed.
- Abstract（参考訳）: edge intelligenceは、機械学習技術に依存するさまざまなスマートアプリケーションをサポートする、有望なコンピューティングパラダイムとして生まれました。
コミュニティは、従来のディープラーニングモデル(CNN、RNNなど)の多層エッジデプロイメントを幅広く調査してきたが、新興のグラフニューラルネットワーク(GNN)はまだ探索中であり、トラフィックフローの予測やロケーションベースのソーシャルレコメンデーションといった、エッジ採用に対する大きな違いを示している。
このギャップを埋めるために,多層ヘテロジニアスエッジネットワーク上での分散GNN処理のコスト最適化を公式に検討する。
我々は、様々なコスト要因をキャプチャできる包括的なモデリングフレームワークを構築し、npハードであることが証明されたコスト効率の良いグラフレイアウト最適化問題を定式化する。
従来のデータ配置の知恵を自明に応用する代わりに、GNNのユニークな計算パターンに絡む二次部分モジュラリティの構造特性を理論的に明らかにし、グラフカットを利用した効率的な反復解の設計を動機付けます。
厳密な分析は、パラメータ化定数近似比、保証収束、正確な実現可能性を提供することを示している。
GNN処理における潜在的なグラフトポロジ的進化に対処するため、より軽量な動的レイアウト最適化のための漸進的な更新戦略と適応スケジューリングアルゴリズムを考案する。
実世界のデータセットと様々なGNNベンチマークによる評価は、我々の手法が高速収束速度で95.8%以上のコストでデファクトベースラインよりも優れた性能を達成することを示した。
関連論文リスト
- Pre-Training Identification of Graph Winning Tickets in Adaptive Spatial-Temporal Graph Neural Networks [5.514795777097036]
Lottery Ticket hypothesis (LTH) から派生した Graph Winning Ticket (GWT) の概念を導入する。
事前決定された恒星トポロジーをGWTとしてトレーニング前に採用することにより、エッジの削減と効率的な情報伝達のバランスをとることができる。
提案手法は,48GBのメモリを備えた単一A6000を用いて,最大規模の時空間データセット上でASTGNNのトレーニングを可能にする。
論文 参考訳（メタデータ） (2024-06-12T14:53:23Z) - T-GAE: Transferable Graph Autoencoder for Network Alignment [79.89704126746204]
T-GAEはグラフオートエンコーダフレームワークで、GNNの転送性と安定性を活用して、再トレーニングなしに効率的なネットワークアライメントを実現する。
実験の結果、T-GAEは最先端の最適化手法と最高のGNN手法を最大38.7%、50.8%で上回っていることがわかった。
論文 参考訳（メタデータ） (2023-10-05T02:58:29Z) - Scalable Resource Management for Dynamic MEC: An Unsupervised
Link-Output Graph Neural Network Approach [36.32772317151467]
ディープラーニングは、タスクオフロードとリソース割り当てを最適化するために、モバイルエッジコンピューティング(MEC)でうまく採用されている。
エッジネットワークのダイナミクスは、低スケーラビリティと高トレーニングコストという、ニューラルネットワーク(NN)ベースの最適化方法における2つの課題を提起する。
本稿では,新たなリンクアウトプットGNN(LOGNN)ベースの資源管理手法を提案し,MECにおける資源割り当てを柔軟に最適化する。
論文 参考訳（メタデータ） (2023-06-15T08:21:41Z) - Learning Cooperative Beamforming with Edge-Update Empowered Graph Neural
Networks [29.23937571816269]
グラフエッジ上での協調ビームフォーミングを学習するためのエッジグラフニューラルネットワーク(Edge-GNN)を提案する。
提案したEdge-GNNは、最先端の手法よりも計算時間をはるかに短くして、より高い和率を達成する。
論文 参考訳（メタデータ） (2022-11-23T02:05:06Z) - A Comprehensive Study on Large-Scale Graph Training: Benchmarking and
Rethinking [124.21408098724551]
グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である
本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。
提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
論文 参考訳（メタデータ） (2022-10-14T03:43:05Z) - Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural
Networks [52.566735716983956]
本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。
LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。
提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
論文 参考訳（メタデータ） (2022-07-18T14:23:31Z) - Towards Understanding Graph Neural Networks: An Algorithm Unrolling
Perspective [9.426760895586428]
本稿では,グラフ信号の復号化問題に対して,truncated Optimizationアルゴリズムに基づいて構築されたアンロールネットワークのクラスを紹介する。
GNNモデルのトレーニングプロセスは、低レベルのGSD問題による二段階最適化問題の解決と見なすことができる。
UGDGNNという表現モデル、すなわち、非線形勾配勾配GNNは、魅力的な理論的性質を継承する。
論文 参考訳（メタデータ） (2022-06-09T12:54:03Z) - Learning to Drop: Robust Graph Neural Network via Topological Denoising [50.81722989898142]
グラフニューラルネットワーク(GNN)のロバスト性および一般化性能を向上させるために,パラメータ化トポロジカルデノイングネットワークであるPTDNetを提案する。
PTDNetは、パラメータ化されたネットワークでスパーシファイドグラフ内のエッジ数をペナル化することで、タスク非関連エッジを創出する。
PTDNetはGNNの性能を著しく向上させ,さらにノイズの多いデータセットでは性能が向上することを示す。
論文 参考訳（メタデータ） (2020-11-13T18:53:21Z) - Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。
複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。
本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
論文 参考訳（メタデータ） (2020-06-26T17:03:06Z) - Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文 参考訳（メタデータ） (2020-04-19T09:43:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。