論文の概要: Simplification of Graph Convolutional Networks: A Matrix
Factorization-based Perspective
- arxiv url: http://arxiv.org/abs/2007.09036v5
- Date: Wed, 4 Nov 2020 03:18:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-09 14:50:13.016452
- Title: Simplification of Graph Convolutional Networks: A Matrix
Factorization-based Perspective
- Title(参考訳): グラフ畳み込みネットワークの単純化:行列分解に基づく視点
- Authors: Qiang Liu and Haoli Zhang and Zhaocheng Liu
- Abstract要約: グラフ畳み込みネットワーク(GCN)と行列分解(MF)の接続の解析
分析の指導のもと,統一・協調学習行列因子化(UCMF)と呼ばれるGCNの代替モデルを提案する。
いくつかの実世界のデータセットで大規模な実験が行われた。
- 参考スコア(独自算出の注目度): 8.900900745767869
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, substantial progress has been made on Graph Convolutional
Networks (GCNs). However, the computing of GCN usually requires a large memory
space for keeping the entire graph. In consequence, GCN is not flexible enough,
especially for large scale graphs in complex real-world applications.
Fortunately, methods based on Matrix Factorization (MF) naturally support
constructing mini-batches, and thus are more friendly to distributed computing
compared with GCN. Accordingly, in this paper, we analyze the connections
between GCN and MF, and simplify GCN as matrix factorization with unitization
and co-training. Furthermore, under the guidance of our analysis, we propose an
alternative model to GCN named Unitized and Co-training Matrix Factorization
(UCMF). Extensive experiments have been conducted on several real-world
datasets. On the task of semi-supervised node classification, the experimental
results illustrate that UCMF achieves similar or superior performances compared
with GCN. Meanwhile, distributed UCMF significantly outperforms distributed GCN
methods, which shows that UCMF can greatly benefit large scale and complex
real-world applications. Moreover, we have also conducted experiments on a
typical task of graph embedding, i.e., community detection, and the proposed
UCMF model outperforms several representative graph embedding models.
- Abstract(参考訳): 近年では、グラフ畳み込みネットワーク(GCN)が大幅に進歩している。
しかし、GCNの計算は通常、グラフ全体を保持するために大きなメモリ空間を必要とする。
その結果、gcnは、特に複雑な実世界のアプリケーションにおける大規模グラフに対して、十分に柔軟ではない。
幸いなことに、マトリックスファクトリゼーション(MF)に基づく手法は自然にミニバッチの構築をサポートしており、GCNと比較して分散コンピューティングに親しみやすい。
そこで本稿では,GCNとMFの接続を解析し,GCNを単位化と協調学習による行列分解として単純化する。
さらに,本分析の指導のもと,統一・協調学習行列因子化(UCMF)と呼ばれるGCNの代替モデルを提案する。
いくつかの実世界のデータセットで広範な実験が行われた。
半教師付きノード分類の課題について, 実験結果から, UCMFはGCNと比較して, 類似あるいは優れた性能を発揮することが示された。
一方、分散UCMFは分散GCN法よりも著しく優れており、UCMFは大規模で複雑な現実世界のアプリケーションに多大な利益をもたらすことが示されている。
さらに,グラフ埋め込みの典型的な課題であるコミュニティ検出の実験も行っており,提案したUCMFモデルはいくつかの代表的なグラフ埋め込みモデルよりも優れている。
関連論文リスト
- Self-Supervised Contrastive Graph Clustering Network via Structural Information Fusion [15.293684479404092]
CGCNと呼ばれる新しいディープグラフクラスタリング手法を提案する。
提案手法では,事前学習プロセスにコントラスト信号と深部構造情報を導入している。
本手法は,複数の実世界のグラフデータセットに対して実験的に検証されている。
論文 参考訳(メタデータ) (2024-08-08T09:49:26Z) - Beyond Graph Convolutional Network: An Interpretable
Regularizer-centered Optimization Framework [12.116373546916078]
グラフ畳み込みネットワーク(GCN)は、性能向上と強力な一般化により、広く注目を集めている。
本稿では,ほとんどのGCNを解釈可能な正規化器中心最適化フレームワークを提案する。
提案フレームワークでは,グラフデータからトポロジとセマンティック構造を捉えるために,二重正規化グラフ畳み込みネットワーク(dubed tsGCN)を考案した。
論文 参考訳(メタデータ) (2023-01-11T05:51:33Z) - A Comprehensive Study on Large-Scale Graph Training: Benchmarking and
Rethinking [124.21408098724551]
グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である
本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。
提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
論文 参考訳(メタデータ) (2022-10-14T03:43:05Z) - Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural
Networks [52.566735716983956]
本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。
LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。
提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
論文 参考訳(メタデータ) (2022-07-18T14:23:31Z) - Generalization Guarantee of Training Graph Convolutional Networks with
Graph Topology Sampling [83.77955213766896]
グラフ畳み込みネットワーク(GCN)は近年,グラフ構造化データの学習において大きな成功を収めている。
スケーラビリティ問題に対処するため、Gsの学習におけるメモリと計算コストを削減するため、グラフトポロジサンプリングが提案されている。
本稿では,3層GCNのトレーニング(最大)におけるグラフトポロジサンプリングの最初の理論的正当性について述べる。
論文 参考訳(メタデータ) (2022-07-07T21:25:55Z) - SStaGCN: Simplified stacking based graph convolutional networks [2.556756699768804]
グラフ畳み込みネットワーク(GCN)は、様々なグラフ構造データ学習タスクにおいて広く研究されている強力なモデルである。
本稿では, SStaGCN (Simplified stacking based GCN) と呼ばれる新しいGCNを提案する。
SStaGCNはGCNの過密問題を効果的に軽減できることを示す。
論文 参考訳(メタデータ) (2021-11-16T05:00:08Z) - Distributed Optimization of Graph Convolutional Network using Subgraph
Variance [8.510726499008204]
グラフ拡張に基づく分散GCNフレームワーク(GAD)を提案する。
GADには、GAD-PartitionとGAD-rの2つの主要コンポーネントがある。
我々のフレームワークは通信オーバーヘッドを50%削減し、最先端手法と比較して収束速度(2X)と精度(0.45%)をわずかに向上させる。
論文 参考訳(メタデータ) (2021-10-06T18:01:47Z) - MG-GCN: Fast and Effective Learning with Mix-grained Aggregators for
Training Large Graph Convolutional Networks [20.07942308916373]
グラフ畳み込みネットワーク(GCN)は、隣人層の情報を層ごとに集約することでノードの埋め込みを生成する。
GCNの高計算とメモリコストにより、大きなグラフのトレーニングが不可能になる。
MG-GCNと呼ばれる新しいモデルでは、精度、トレーニング速度、収束速度、メモリコストの点で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2020-11-17T14:51:57Z) - Temporal Attention-Augmented Graph Convolutional Network for Efficient
Skeleton-Based Human Action Recognition [97.14064057840089]
グラフネットワーク(GCN)はユークリッド以外のデータ構造をモデル化するのに非常に成功した。
ほとんどのGCNベースのアクション認識手法は、計算量の多いディープフィードフォワードネットワークを使用して、全てのスケルトンをアクションで処理する。
本稿では,骨格に基づく行動認識の効率を高めるための時間的アテンションモジュール(TAM)を提案する。
論文 参考訳(メタデータ) (2020-10-23T08:01:55Z) - AM-GCN: Adaptive Multi-channel Graph Convolutional Networks [85.0332394224503]
グラフ畳み込みネットワーク(GCN)は,豊富な情報を持つ複雑なグラフにおいて,ノードの特徴と位相構造を最適に統合できるかどうかを検討する。
半教師付き分類(AM-GCN)のための適応型マルチチャネルグラフ畳み込みネットワークを提案する。
実験の結果,AM-GCNはノードの特徴とトポロジ的構造の両方から最も相関性の高い情報を抽出することがわかった。
論文 参考訳(メタデータ) (2020-07-05T08:16:03Z) - Infinitely Wide Graph Convolutional Networks: Semi-supervised Learning
via Gaussian Processes [144.6048446370369]
グラフ畳み込みニューラルネットワーク(GCN)は近年,グラフに基づく半教師付き半教師付き分類において有望な結果を示した。
グラフに基づく半教師付き学習のためのGCN(GPGC)を用いたGP回帰モデルを提案する。
GPGCを評価するための広範囲な実験を行い、他の最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-02-26T10:02:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。