論文の概要: Scalable Graph Embedding LearningOn A Single GPU
- arxiv url: http://arxiv.org/abs/2110.06991v1
- Date: Wed, 13 Oct 2021 19:09:33 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-15 15:11:06.367131
- Title: Scalable Graph Embedding LearningOn A Single GPU
- Title（参考訳）: シングルGPU上での学習のグラフ埋め込み
- Authors: Azita Nouri, Philip E. Davis, Pradeep Subedi, Manish Parashar
- Abstract要約: 本稿では,大規模グラフの埋め込み学習の課題に対処する,ハイブリッドCPU-GPUフレームワークを提案する。
我々のシステムは、単一のマシンの総メモリ容量より桁違いに大きいデータセットにトレーニングをスケールできることを示します。
- 参考スコア（独自算出の注目度）: 18.142879223260785
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph embedding techniques have attracted growing interest since they convert
the graph data into continuous and low-dimensional space. Effective graph
analytic provides users a deeper understanding of what is behind the data and
thus can benefit a variety of machine learning tasks. With the current scale of
real-world applications, most graph analytic methods suffer high computation
and space costs. These methods and systems can process a network with thousands
to a few million nodes. However, scaling to large-scale networks remains a
challenge. The complexity of training graph embedding system requires the use
of existing accelerators such as GPU. In this paper, we introduce a hybrid
CPU-GPU framework that addresses the challenges of learning embedding of
large-scale graphs. The performance of our method is compared qualitatively and
quantitatively with the existing embedding systems on common benchmarks. We
also show that our system can scale training to datasets with an order of
magnitude greater than a single machine's total memory capacity. The
effectiveness of the learned embedding is evaluated within multiple downstream
applications. The experimental results indicate the effectiveness of the
learned embedding in terms of performance and accuracy.
- Abstract（参考訳）: グラフ埋め込み技術は、グラフデータを連続的および低次元空間に変換するため、関心が高まっている。
効果的なグラフ分析は、データの背後にあるものをより深く理解し、さまざまな機械学習タスクに役立つ。
現在の実世界のアプリケーションでは、ほとんどのグラフ解析手法は高い計算と空間コストを被る。
これらの方法とシステムは、数千から数百万のノードからなるネットワークを処理できる。
しかし、大規模ネットワークへのスケーリングは依然として課題である。
グラフ埋め込みシステムのトレーニングの複雑さは、GPUのような既存のアクセラレータを使用する必要がある。
本稿では,大規模グラフの埋め込み学習における課題に対処する,ハイブリッドCPU-GPUフレームワークを提案する。
本手法の性能は,従来のベンチマークシステムと定性的,定量的に比較される。
また,本システムでは,単一マシンの総メモリ容量より桁違いに大きいデータセットにトレーニングをスケールできることも示している。
学習した組込みの有効性は、複数の下流アプリケーションで評価される。
実験の結果,性能と精度の観点から学習埋め込みの有効性が示唆された。
関連論文リスト
- State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - Localized Contrastive Learning on Graphs [110.54606263711385]
局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。
その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
論文 参考訳（メタデータ） (2022-12-08T23:36:00Z) - A Comprehensive Study on Large-Scale Graph Training: Benchmarking and
Rethinking [124.21408098724551]
グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である
本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。
提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
論文 参考訳（メタデータ） (2022-10-14T03:43:05Z) - Scaling R-GCN Training with Graph Summarization [71.06855946732296]
リレーショナルグラフ畳み込みネットワーク(R-GCN)のトレーニングは、グラフのサイズに合わない。
本研究では,グラフの要約手法を用いてグラフを圧縮する実験を行った。
AIFB, MUTAG, AMデータセットについて妥当な結果を得た。
論文 参考訳（メタデータ） (2022-03-05T00:28:43Z) - Learning Massive Graph Embeddings on a Single Machine [11.949017733445624]
グラフ埋め込みはグラフの各ノード(および/またはエッジタイプ)に対する固定長ベクトル表現である。
大規模グラフの埋め込みを学習するための現在のシステムは、データ移動によってボトルネックとなる。
グラフ埋め込みの効率的な学習システムであるgaiusを提案する。
論文 参考訳（メタデータ） (2021-01-20T23:17:31Z) - Distributed Training of Graph Convolutional Networks using Subgraph
Approximation [72.89940126490715]
本稿では,グラフの複数の分割にまたがる失われる情報をサブグラフ近似スキームで緩和するトレーニング戦略を提案する。
サブグラフ近似アプローチは、分散トレーニングシステムが単一マシン精度で収束するのに役立つ。
論文 参考訳（メタデータ） (2020-12-09T09:23:49Z) - Co-embedding of Nodes and Edges with Graph Neural Networks [13.020745622327894]
グラフ埋め込みは、高次元および非ユークリッド特徴空間でデータ構造を変換しエンコードする方法である。
CensNetは一般的なグラフ埋め込みフレームワークで、ノードとエッジの両方を潜在機能空間に埋め込む。
提案手法は,4つのグラフ学習課題における最先端のパフォーマンスを達成または一致させる。
論文 参考訳（メタデータ） (2020-10-25T22:39:31Z) - Not Half Bad: Exploring Half-Precision in Graph Convolutional Neural
Networks [8.460826851547294]
現代の機械学習を用いた効率的なグラフ解析は、ますます注目を集めている。
ディープラーニングアプローチは、隣接行列全体にわたって運用されることが多い。
実行時間とメモリ要求の両方を削減するための効率的な対策を特定することが望ましい。
論文 参考訳（メタデータ） (2020-10-23T19:47:42Z) - Understanding Coarsening for Embedding Large-Scale Graphs [3.6739949215165164]
機械学習(ML)アルゴリズムによるグラフの適切な解析は、研究や産業の多くの分野において、より深い洞察をもたらす可能性がある。
グラフデータの不規則構造は、グラフ上でMLタスクを実行するための障害を構成する。
本研究では, 粗大化品質が埋込み性能に及ぼす影響を, 速度と精度の両方で解析する。
論文 参考訳（メタデータ） (2020-09-10T15:06:33Z) - SIGN: Scalable Inception Graph Neural Networks [4.5158585619109495]
本稿では,グラフサンプリングの必要性を助長する,効率的でスケーラブルなグラフ深層学習アーキテクチャを提案する。
私たちのアーキテクチャでは、異なるローカルグラフ演算子を使用して、そのタスクに最も適しています。
我々は,1億1000万のノードと15億のエッジを持つ,最大の公開グラフデータセットであるogbn-papers100Mについて,最先端の結果を得た。
論文 参考訳（メタデータ） (2020-04-23T14:46:10Z) - Geometrically Principled Connections in Graph Neural Networks [66.51286736506658]
我々は、幾何学的深層学習の新興分野におけるイノベーションの原動力は、幾何が依然として主要な推進力であるべきだと論じている。
グラフニューラルネットワークとコンピュータグラフィックスとデータ近似モデルとの関係:放射基底関数(RBF)
完全連結層とグラフ畳み込み演算子を組み合わせた新しいビルディングブロックであるアフィンスキップ接続を導入する。
論文 参考訳（メタデータ） (2020-04-06T13:25:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。