論文の概要: Connecting Graph Convolutional Networks and Graph-Regularized PCA
- arxiv url: http://arxiv.org/abs/2006.12294v2
- Date: Tue, 2 Mar 2021 18:08:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 05:03:39.878980
- Title: Connecting Graph Convolutional Networks and Graph-Regularized PCA
- Title(参考訳): グラフ畳み込みネットワークとグラフ正規化PCAの接続
- Authors: Lingxiao Zhao, Leman Akoglu
- Abstract要約: GCNモデルのグラフ畳み込み演算子は、もともとスペクトルグラフ畳み込みの局所化一階近似から動機付けられたものである。
グラフ畳み込みとグラフ正規化PCA(GPCA)のテキスト数学的接続を確立する。
- 参考スコア(独自算出の注目度): 23.592657600394215
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Graph convolution operator of the GCN model is originally motivated from a
localized first-order approximation of spectral graph convolutions. This work
stands on a different view; establishing a \textit{mathematical connection
between graph convolution and graph-regularized PCA} (GPCA). Based on this
connection, GCN architecture, shaped by stacking graph convolution layers,
shares a close relationship with stacking GPCA. We empirically demonstrate that
the \textit{unsupervised} embeddings by GPCA paired with a 1- or 2-layer MLP
achieves similar or even better performance than GCN on semi-supervised node
classification tasks across five datasets including Open Graph Benchmark
\footnote{\url{https://ogb.stanford.edu/}}. This suggests that the prowess of
GCN is driven by graph based regularization. In addition, we extend GPCA to the
(semi-)supervised setting and show that it is equivalent to GPCA on a graph
extended with "ghost" edges between nodes of the same label. Finally, we
capitalize on the discovered relationship to design an effective initialization
strategy based on stacking GPCA, enabling GCN to converge faster and achieve
robust performance at large number of layers. Notably, the proposed
initialization is general-purpose and applies to other GNNs.
- Abstract(参考訳): GCNモデルのグラフ畳み込み演算子は、もともとスペクトルグラフ畳み込みの局所化一階近似から動機付けられたものである。
この研究は、グラフ畳み込みとグラフ正規化PCA(GPCA)の間の \textit{mathematical connection を確立するという異なる見解に基づいている。
この接続に基づいて、グラフ畳み込み層を積み重ねたGCNアーキテクチャは、重ねたGPCAと密接な関係を持つ。
GPCA と 1 層あるいは 2 層 MLP の組み合わせによる \textit{unsupervised} 埋め込みは,Open Graph Benchmark \footnote{\url{https://ogb.stanford.edu/}} を含む5つのデータセットにわたる半教師付きノード分類タスクにおいて,GCN と同じような,あるいはそれ以上のパフォーマンスを実現することを実証的に実証した。
これはGCNの長所がグラフベースの正規化によって駆動されることを示唆している。
さらに、GPCAを教師付き設定に拡張し、同じラベルのノード間の"ゴースト"エッジで拡張されたグラフ上でGPCAと等価であることを示す。
最後に,GPCAを積み重ねた効果的な初期化戦略を設計し,GCNの収束を高速化し,多数の層で堅牢な性能を実現することを目的とした。
特に、提案された初期化は汎用的であり、他のGNNにも適用される。
関連論文リスト
- Scalable Graph Compressed Convolutions [68.85227170390864]
ユークリッド畳み込みのための入力グラフのキャリブレーションに置換を適用する微分可能手法を提案する。
グラフキャリブレーションに基づいて,階層型グラフ表現学習のための圧縮畳み込みネットワーク(CoCN)を提案する。
論文 参考訳(メタデータ) (2024-07-26T03:14:13Z) - Graph Convolutional Network For Semi-supervised Node Classification With Subgraph Sketching [0.27624021966289597]
本稿では,GLDGCNと呼ばれるグラフ学習型グラフ畳み込みニューラルネットワークを提案する。
半教師付きノード分類タスクにGLDGCNを適用する。
ベースライン手法と比較して,3つの引用ネットワークの分類精度が向上する。
論文 参考訳(メタデータ) (2024-04-19T09:08:12Z) - From Cluster Assumption to Graph Convolution: Graph-based Semi-Supervised Learning Revisited [51.24526202984846]
グラフベースの半教師付き学習(GSSL)は、長い間ホットな研究トピックだった。
グラフ畳み込みネットワーク (GCN) は, 有望な性能を示す主要な技術となっている。
論文 参考訳(メタデータ) (2023-09-24T10:10:21Z) - AnchorGAE: General Data Clustering via $O(n)$ Bipartite Graph
Convolution [79.44066256794187]
我々は、グラフ畳み込みネットワーク(GCN)を構築するために使用される生成グラフモデルを導入することにより、グラフに非グラフデータセットを変換する方法を示す。
アンカーによって構築された二部グラフは、データの背後にある高レベル情報を利用するために動的に更新される。
理論的には、単純な更新が退化につながることを証明し、それに従って特定の戦略が設計される。
論文 参考訳(メタデータ) (2021-11-12T07:08:13Z) - Quadratic GCN for Graph Classification [1.1470070927586016]
グラフ畳み込みネットワーク(GCN)は、頂点をグラフで分類するために広く使われている。
GCNはグラフ分類タスク(GCT)に拡張されている
本稿では,GCN,知識グラフからの手法,および自己正規化活性化関数を組み合わせた新しい解を提案する。
論文 参考訳(メタデータ) (2021-04-14T10:01:09Z) - Inverse Graph Identification: Can We Identify Node Labels Given Graph
Labels? [89.13567439679709]
グラフ識別(GI)は、グラフ学習において長い間研究されており、特定の応用において不可欠である。
本稿では,逆グラフ識別(Inverse Graph Identification, IGI)と呼ばれる新しい問題を定義する。
本稿では,グラフアテンションネットワーク(GAT)を用いたノードレベルのメッセージパッシング処理を,GIのプロトコルの下でシンプルかつ効果的に行う方法を提案する。
論文 参考訳(メタデータ) (2020-07-12T12:06:17Z) - Directed Graph Convolutional Network [15.879411956536885]
スペクトルベースのグラフ畳み込みを1階と2階の近接を利用して有向グラフに拡張する。
DGCNと呼ばれる新しいGCNモデルは、有向グラフ上で表現を学ぶように設計されている。
論文 参考訳(メタデータ) (2020-04-29T06:19:10Z) - Infinitely Wide Graph Convolutional Networks: Semi-supervised Learning
via Gaussian Processes [144.6048446370369]
グラフ畳み込みニューラルネットワーク(GCN)は近年,グラフに基づく半教師付き半教師付き分類において有望な結果を示した。
グラフに基づく半教師付き学習のためのGCN(GPGC)を用いたGP回帰モデルを提案する。
GPGCを評価するための広範囲な実験を行い、他の最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-02-26T10:02:32Z) - Unifying Graph Convolutional Neural Networks and Label Propagation [73.82013612939507]
LPAとGCNの関係を特徴・ラベルの平滑化と特徴・ラベルの影響の2点の観点から検討した。
理論解析に基づいて,ノード分類のためのGCNとLCAを統一するエンドツーエンドモデルを提案する。
我々のモデルは、既存の特徴に基づく注目モデルよりもタスク指向のノードラベルに基づく学習注意重みと見なすこともできる。
論文 参考訳(メタデータ) (2020-02-17T03:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。