論文の概要: Batch Before You Lift: Scalable Topological Deep Learning on Large Graphs
- arxiv url: http://arxiv.org/abs/2610.12247v1
- Date: Thu, 08 Oct 2026 16:23:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.163542
- Title: Batch Before You Lift: Scalable Topological Deep Learning on Large Graphs
- Title(参考訳): Batch before you Lift: 大規模グラフによるスケーラブルなトポロジカルディープラーニング
- Abstract要約: トポロジカルディープラーニングは、グラフベースの学習をハイパーグラフ、セルラー、simplicial Complexといった高階ドメインに拡張する。
完全なドメイントレーニングは、モデル実行前に完全なリフトされた表現を構築し、保存する。
Redditのような大規模で密度の高いデータセット(233kノードと57.3Mエッジ)では、このグローバルな物質化は深刻な計算ボトルネックとなる。
本稿では、ドメインに依存しないフレームワークであるCluster-TNNを紹介します。
- 参考スコア(独自算出の注目度): 18.779783078510118
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Topological Deep Learning extends graph-based learning to higher-order domains, such as hypergraphs, cellular, and simplicial complexes. These domains are typically constructed from patterns in an input graph through a process of graph lifting. Full-domain training constructs and stores the complete lifted representation before model execution. On large and dense datasets like Reddit (233k nodes and 57.3M edges), this global materialization becomes a severe computational bottleneck, often rendering training infeasible. To address this limitation, we introduce Cluster-TNN, a domain-agnostic framework that avoids this bottleneck by lifting locally instead. After partitioning the input graph during preprocessing, at runtime Cluster-TNN dynamically samples groups of node clusters, reconstructs their induced subgraphs to form mini-batches, and applies the chosen lifting within each mini-batch. Retaining all edges among sampled nodes preserves the connectivity needed to construct higher-order structures across clusters, producing topological mini-batches that existing Topological Neural Networks can process directly. Across 21 matched comparisons with full-graph execution, Cluster-TNN reduces peak GPU memory in every configuration, by 83.2% on average while maintaining competitive predictive performance. Notably, such a reduction enables, to our knowledge, the first training of multiple different higher-order Topological Neural Networks on large datasets such as Reddit and OGBN Products. These results establish Cluster-TNN as a general strategy for scaling Topological Deep Learning beyond the limitations of global domain construction.
- Abstract(参考訳): トポロジカルディープラーニングは、グラフベースの学習をハイパーグラフ、セルラー、simplicial complexなどの高階ドメインに拡張する。
これらのドメインは通常、グラフリフトのプロセスを通じて入力グラフのパターンから構築される。
完全なドメイントレーニングは、モデル実行前に完全なリフトされた表現を構築し、保存する。
Redditのような大規模で高密度なデータセット(233kノードと57.3Mエッジ)では、このグローバルな実体化は深刻な計算ボトルネックとなり、トレーニングが不可能になることが多い。
この制限に対処するために、ドメインに依存しないフレームワークであるCluster-TNNを紹介します。
前処理中に入力グラフをパーティショニングした後、実行時にCluster-TNNはノードクラスタのグループを動的にサンプリングし、生成されたサブグラフを再構築してミニバッチを形成し、選択したリフトを各ミニバッチに適用する。
サンプルノード間のすべてのエッジを保持することは、クラスタ全体の高階構造を構築するために必要な接続性を保持し、既存のトポロジカルニューラルネットワークが直接処理できるトポロジカルなミニバッチを生成する。
21回にわたるフルグラフ実行との比較では、Cluster-TNNはすべての構成におけるピークGPUメモリを平均83.2%削減し、競争力のある予測性能を維持している。
このような削減によって、RedditやOGBN Productsのような大規模なデータセット上で、複数の異なる高階のトポロジカルニューラルネットワークをトレーニングすることが可能になる。
これらの結果は、グローバルドメイン構築の限界を超えて、トポロジカルディープラーニングをスケールするための一般的な戦略として、Cluster-TNNを確立している。
関連論文リスト
- gHAWK: Local and Global Structure Encoding for Scalable Training of Graph Neural Networks on Knowledge Graphs [1.8024397171920878]
gHAWKは知識グラフ(KG)のためのグラフニューラルネットワーク(GNN)トレーニングフレームワーク
GNNトレーニングが始まる前に、各ノードのローカルおよびグローバル構造をキャプチャする構造的特徴を事前に計算する。
gHAWKはメモリ使用量、収束率を大幅に削減し、モデルの精度を向上させる。
論文 参考訳(メタデータ) (2025-12-09T06:08:37Z) - Scalable Graph Generative Modeling via Substructure Sequences [50.32639806800683]
本稿では,グラフ生成用トランスフォーマー事前学習フレームワークである生成グラフパターンマシン(G$2$PM)を紹介する。
G$2$PMはグラフインスタンス(ノード、エッジ、グラフ全体)をサブ構造のシーケンスとして表現する。
それは、一般化可能かつ伝達可能な表現を学ぶために、シーケンスに関する生成的事前学習を採用する。
論文 参考訳(メタデータ) (2025-05-22T02:16:34Z) - Tensor-view Topological Graph Neural Network [16.433092191206534]
グラフニューラルネットワーク(GNN)は最近、グラフ学習において注目を集めている。
既存のGNNは、各ノード周辺の非常に限られた地区からのローカル情報のみを使用する。
本稿では,単純かつ効果的な深層学習のクラスであるTopological Graph Neural Network (TTG-NN)を提案する。
実データ実験により,提案したTTG-NNは,グラフベンチマークにおいて20の最先端手法より優れていた。
論文 参考訳(メタデータ) (2024-01-22T14:55:01Z) - Efficient Heterogeneous Graph Learning via Random Projection [58.4138636866903]
不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。
最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。
我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
論文 参考訳(メタデータ) (2023-10-23T01:25:44Z) - A Comprehensive Study on Large-Scale Graph Training: Benchmarking and
Rethinking [124.21408098724551]
グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である
本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。
提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
論文 参考訳(メタデータ) (2022-10-14T03:43:05Z) - Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural
Networks [52.566735716983956]
本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。
LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。
提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
論文 参考訳(メタデータ) (2022-07-18T14:23:31Z) - Learning Hierarchical Graph Neural Networks for Image Clustering [81.5841862489509]
本稿では,画像の集合を未知の個数にクラスタリングする方法を学ぶ階層型グラフニューラルネットワーク(GNN)モデルを提案する。
我々の階層的なGNNは、階層の各レベルで予測される連結コンポーネントをマージして、次のレベルで新しいグラフを形成するために、新しいアプローチを用いています。
論文 参考訳(メタデータ) (2021-07-03T01:28:42Z) - CAGNN: Cluster-Aware Graph Neural Networks for Unsupervised Graph
Representation Learning [19.432449825536423]
教師なしグラフ表現学習は、教師なしの低次元ノード埋め込みを学習することを目的としている。
本稿では、自己教師付き手法を用いた教師なしグラフ表現学習のための新しいクラスタ対応グラフニューラルネットワーク(CAGNN)モデルを提案する。
論文 参考訳(メタデータ) (2020-09-03T13:57:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。