論文の概要: Two-level domain-decomposition AdaGrad method for scalable training of graph neural networks

• arxiv url: http://arxiv.org/abs/2608.22575v1
• Date: Sun, 23 Aug 2026 19:54:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.79405
• Title: Two-level domain-decomposition AdaGrad method for scalable training of graph neural networks
• Title（参考訳）: グラフニューラルネットワークのスケーラブルなトレーニングのための2レベルドメイン分割AdaGrad法
• Authors: Laurynas Varnas, Julien Herrmann, Alexander Heinlein, Serge Gratton, Alena Kopaničáková,
• Abstract要約: グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習するための強力なフレームワークとして登場した。 本稿では2次曲率情報と運動量で拡張されたAdaGrad法 AG2m の DD 変種を提案する。 固定計算コストでは、ベースライン AG2m と比較してGNNの性能を最大22%向上させる。
• 参考スコア（独自算出の注目度）: 37.457412158271126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph neural networks (GNNs) have emerged as a powerful framework for learning from graph-structured data. However, their efficient training remains challenging, particularly in distributed computing environments. This challenge arises from the use of message passing, which couples all graph nodes, leading to expensive optimization steps, high memory requirements, and substantial communication overhead. To alleviate these limitations, we propose a novel domain-decomposition (DD) variant of AG2m, an AdaGrad method enhanced with second-order curvature information and momentum, denoted by DD-AG2m. The proposed DD-AG2m alternates between AG2m optimization on the original (global) graph and AG2m optimization on the partitioned graphs. To incorporate global information at reduced cost, we further introduce a two-level variant (2DD-AG2m) that performs global optimization steps on a coarse graph obtained by randomly subsampling nodes within each subdomain. Numerical experiments spanning graph classification, node-level regression, and spatiotemporal forecasting tasks demonstrate that the proposed DD methods reduce the computational cost required to achieve the same predictive performance by a factor of 4-8. Moreover, for the fixed computational cost, they improve the predictive performance of GNNs by up to 22% compared with the baseline AG2m.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習するための強力なフレームワークとして登場した。 しかし、その効率的なトレーニングは、特に分散コンピューティング環境では難しいままである。 この課題は、すべてのグラフノードを結合するメッセージパッシングの使用によって発生し、高価な最適化ステップ、高いメモリ要求、かなりの通信オーバーヘッドにつながる。 これらの制約を緩和するために, DD-AG2m で表される2次曲率情報と運動量で拡張された AdaGrad 法である AG2m のドメイン分解(DD) 変種を提案する。 提案したDD-AG2mは、元の(グローバル)グラフ上のAG2m最適化と分割グラフ上のAG2m最適化とを交互に置き換える。 さらに,グローバル情報を低コストで組み込むために,各サブドメイン内のノードをランダムにサブサンプリングすることで得られる粗いグラフに対して,グローバルな最適化ステップを行う2レベル変種(2DD-AG2m)を導入する。 グラフ分類,ノードレベルの回帰,時空間予測タスクにまたがる数値実験により,提案手法は,同じ予測性能を達成するために必要な計算コストを4～8倍に削減することを示した。 さらに, 計算コストの固定化により, ベースラインAG2mに比べてGNNの予測性能を最大22%向上させることができた。

関連論文リスト

• Efficient Recommendations via Graph Coarsening and Label Propagation [50.71909189967895]
  グラフベースのレコメンデーションは、現実世界の産業アプリケーションで広く採用されている。 有望なアプローチの1つは、適応的なグラフ縮小手法であるグラフ粗化である。 グラフの粗化と多段階ラベルの伝搬を組み合わせたフレキシブルな2段階拡散フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-07-24T13:25:26Z)
• E2E-GRec: An End-to-End Joint Training Framework for Graph Neural Networks and Recommender Systems [12.960867801368972]
  提案するE2E-GRecは,GNNトレーニングをレコメンダシステムと統合する新しいエンドツーエンドトレーニングフレームワークである。 本フレームワークの特徴は, 大規模クロスドメインなヘテロジニアスグラフからの効率的なサブグラフサンプリングにより, トレーニングのスケーラビリティと効率性を確保すること, (ii) グラフ特徴自動エンコーダを用いて, GNN が構造的に意味のある埋め込みを学習するための補助的な自己指導的タスクを実現すること, (iii) グラドノームに基づく動的損失分散と組み合わせた2段階の機能融合機構である。
  論文  参考訳（メタデータ） (2025-11-25T17:59:22Z)
• GraphBridge: Towards Arbitrary Transfer Learning in GNNs [65.01790632978962]
  GraphBridgeは、GNNの異なるタスクやドメイン間での知識伝達を可能にする新しいフレームワークである。 予測ヘッドと入力を出力層に接続するブリッジングネットワークを備えた、事前訓練されたGNNの拡張を可能にする。 これらのシナリオを代表する16以上のデータセットで実施された実証検証では、タスクとドメインに依存しないトランスファー学習のためのフレームワークの能力が確認されている。
  論文  参考訳（メタデータ） (2025-02-26T15:57:51Z)
• Degree-Conscious Spiking Graph for Cross-Domain Adaptation [51.58506501415558]
  Spiking Graph Networks (SGNs) はグラフ分類において大きな可能性を証明している。 DeSGraDA(Degree-Consicious Spiking Graph for Cross-Domain Adaptation)という新しいフレームワークを紹介する。 DeSGraDAは3つのキーコンポーネントを持つドメイン間の一般化を強化する。
  論文  参考訳（メタデータ） (2024-10-09T13:45:54Z)
• Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural Networks [52.566735716983956]
  本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。 LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。 提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
  論文  参考訳（メタデータ） (2022-07-18T14:23:31Z)
• Distributed Optimization of Graph Convolutional Network using Subgraph Variance [8.510726499008204]
  グラフ拡張に基づく分散GCNフレームワーク(GAD)を提案する。 GADには、GAD-PartitionとGAD-rの2つの主要コンポーネントがある。 我々のフレームワークは通信オーバーヘッドを50%削減し、最先端手法と比較して収束速度(2X)と精度(0.45%)をわずかに向上させる。
  論文  参考訳（メタデータ） (2021-10-06T18:01:47Z)
• Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
  学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。 FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
  論文  参考訳（メタデータ） (2020-10-19T21:51:47Z)
• Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
  領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。 グラフ埋め込みに基づく汎用フレームワークを提案する。 提案手法が強力なドメイン適応フレームワークにつながることを示す。
  論文  参考訳（メタデータ） (2020-03-09T12:25:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。