論文の概要: Graph Contrastive Learning with Generative Adversarial Network
- arxiv url: http://arxiv.org/abs/2308.00535v1
- Date: Tue, 1 Aug 2023 13:28:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-02 14:02:16.435481
- Title: Graph Contrastive Learning with Generative Adversarial Network
- Title（参考訳）: 生成型adversarial networkを用いたグラフコントラスト学習
- Authors: Cheng Wu, Chaokun Wang, Jingcao Xu, Ziyang Liu, Kai Zheng, Xiaowei
Wang, Yang Song, Kun Gai
- Abstract要約: グラフ生成逆数ネットワーク(GAN)はグラフコントラスト学習(GCL)のためのビューの分布を学習する
本稿では,グラフ表現学習のためのジェネレーティブ・コントラスト学習ネットワークであるGACNを提案する。
GACNはGCLの高品質な拡張ビューを生成することができ、12の最先端のベースライン手法よりも優れていることを示す。
- 参考スコア（独自算出の注目度）: 35.564028359355596
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Graph Neural Networks (GNNs) have demonstrated promising results on
exploiting node representations for many downstream tasks through supervised
end-to-end training. To deal with the widespread label scarcity issue in
real-world applications, Graph Contrastive Learning (GCL) is leveraged to train
GNNs with limited or even no labels by maximizing the mutual information
between nodes in its augmented views generated from the original graph.
However, the distribution of graphs remains unconsidered in view generation,
resulting in the ignorance of unseen edges in most existing literature, which
is empirically shown to be able to improve GCL's performance in our
experiments. To this end, we propose to incorporate graph generative
adversarial networks (GANs) to learn the distribution of views for GCL, in
order to i) automatically capture the characteristic of graphs for
augmentations, and ii) jointly train the graph GAN model and the GCL model.
Specifically, we present GACN, a novel Generative Adversarial Contrastive
learning Network for graph representation learning. GACN develops a view
generator and a view discriminator to generate augmented views automatically in
an adversarial style. Then, GACN leverages these views to train a GNN encoder
with two carefully designed self-supervised learning losses, including the
graph contrastive loss and the Bayesian personalized ranking Loss. Furthermore,
we design an optimization framework to train all GACN modules jointly.
Extensive experiments on seven real-world datasets show that GACN is able to
generate high-quality augmented views for GCL and is superior to twelve
state-of-the-art baseline methods. Noticeably, our proposed GACN surprisingly
discovers that the generated views in data augmentation finally conform to the
well-known preferential attachment rule in online networks.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、教師付きエンドツーエンドトレーニングを通じて、多くの下流タスクのノード表現を活用できる有望な結果を実証している。
実世界のアプリケーションにおけるラベル不足問題に対処するため、グラフコントラスト学習(GCL)は、元のグラフから生成された拡張ビュー内のノード間の相互情報を最大化することにより、制限あるいはラベルなしでGNNをトレーニングするために利用される。
しかし、グラフの分布はビュー生成において考慮されていないため、既存のほとんどの文献では未確認のエッジが無知となり、実験ではGCLの性能を向上させることが実証的に示されている。
この目的のために、GCLのビューの分布を学習するために、グラフ生成敵ネットワーク(GAN)を統合することを提案する。
一 増補用のグラフの特徴を自動的に把握し、
二 グラフGANモデルとGCLモデルとを共同で訓練すること。
具体的には,グラフ表現学習のための新たなジェネレーティブ・コントラスト学習ネットワークであるGACNを提案する。
GACNはビュージェネレータとビュー判別器を開発し、敵のスタイルで自動的に拡張ビューを生成する。
次に、GACNはこれらのビューを利用してGNNエンコーダをトレーニングし、2つの慎重に設計された自己教師付き学習損失をトレーニングする。
さらに,すべてのGACNモジュールを共同でトレーニングするための最適化フレームワークを設計する。
7つの実世界のデータセットに関する広範囲な実験により、gacnはgclの高品質な拡張ビューを生成でき、12の最先端のベースラインメソッドよりも優れていることが示されている。
注目すべきことに、提案したGACNは、生成したデータ拡張のビューが、オンラインネットワークにおけるよく知られた優先的なアタッチメントルールに最終的に準拠することを発見した。
関連論文リスト
- GRE^2-MDCL: Graph Representation Embedding Enhanced via Multidimensional Contrastive Learning [0.0]
グラフ表現学習は、ノードをベクトル表現にマッピングする際にグラフトポロジを保存する強力なツールとして登場した。
現在のグラフニューラルネットワークモデルは、広範なラベル付きデータを必要とするという課題に直面している。
多次元コントラスト学習によるグラフ表現埋め込みを提案する。
論文 参考訳（メタデータ） (2024-09-12T03:09:05Z) - Contrastive Graph Representation Learning with Adversarial Cross-view Reconstruction and Information Bottleneck [5.707725771108279]
本稿では,CGRL (Contrastive Graph Representation Learning with Adversarial Cross-view Reconstruction and Information Bottleneck) を用いたノード分類手法を提案する。
提案手法は既存の最先端アルゴリズムを著しく上回っている。
論文 参考訳（メタデータ） (2024-08-01T05:45:21Z) - Self-Attention Empowered Graph Convolutional Network for Structure
Learning and Node Embedding [5.164875580197953]
グラフ構造化データの表現学習では、多くの人気のあるグラフニューラルネットワーク(GNN)が長距離依存をキャプチャできない。
本稿では,自己注意型グラフ畳み込みネットワーク(GCN-SA)と呼ばれる新しいグラフ学習フレームワークを提案する。
提案手法はノードレベルの表現学習において例外的な一般化能力を示す。
論文 参考訳（メタデータ） (2024-03-06T05:00:31Z) - DGNN: Decoupled Graph Neural Networks with Structural Consistency
between Attribute and Graph Embedding Representations [62.04558318166396]
グラフニューラルネットワーク(GNN)は、複雑な構造を持つグラフ上での表現学習の堅牢性を示す。
ノードのより包括的な埋め込み表現を得るために、Decoupled Graph Neural Networks (DGNN)と呼ばれる新しいGNNフレームワークが導入された。
複数のグラフベンチマークデータセットを用いて、ノード分類タスクにおけるDGNNの優位性を検証した。
論文 参考訳（メタデータ） (2024-01-28T06:43:13Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳（メタデータ） (2022-08-21T15:12:08Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z) - Adversarial Graph Augmentation to Improve Graph Contrastive Learning [21.54343383921459]
本稿では,GNNがトレーニング中に冗長な情報を捕捉することを避けるために,AD-GCL(adversarial-GCL)と呼ばれる新しい原理を提案する。
我々は、AD-GCLを最先端のGCL法と比較し、教師なしで最大$14%、転送で$6%、半教師なしの学習環境で$3%の性能向上を達成した。
論文 参考訳（メタデータ） (2021-06-10T15:34:26Z) - Learning to Drop: Robust Graph Neural Network via Topological Denoising [50.81722989898142]
グラフニューラルネットワーク(GNN)のロバスト性および一般化性能を向上させるために,パラメータ化トポロジカルデノイングネットワークであるPTDNetを提案する。
PTDNetは、パラメータ化されたネットワークでスパーシファイドグラフ内のエッジ数をペナル化することで、タスク非関連エッジを創出する。
PTDNetはGNNの性能を著しく向上させ,さらにノイズの多いデータセットでは性能が向上することを示す。
論文 参考訳（メタデータ） (2020-11-13T18:53:21Z) - Graph Contrastive Learning with Augmentations [109.23158429991298]
グラフデータの教師なし表現を学習するためのグラフコントラスト学習(GraphCL)フレームワークを提案する。
我々のフレームワークは、最先端の手法と比較して、類似またはより良い一般化可能性、転送可能性、堅牢性のグラフ表現を作成できることを示す。
論文 参考訳（メタデータ） (2020-10-22T20:13:43Z) - Contrastive and Generative Graph Convolutional Networks for Graph-based
Semi-Supervised Learning [64.98816284854067]
グラフベースのSemi-Supervised Learning (SSL)は、少数のラベル付きデータのラベルをグラフ経由で残りの巨大なラベル付きデータに転送することを目的としている。
本稿では,データ類似性とグラフ構造を両立させ,監視信号の強化を図るため,新しいGCNベースのSSLアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-09-15T13:59:28Z) - Self-Constructing Graph Convolutional Networks for Semantic Labeling [23.623276007011373]
本稿では,学習可能な潜伏変数を用いて埋め込みを生成する自己構築グラフ(SCG)を提案する。
SCGは、空中画像中の複雑な形状の物体から、最適化された非局所的なコンテキストグラフを自動的に取得することができる。
本稿では,ISPRS Vaihingen データセット上で提案した SCG の有効性と柔軟性を示す。
論文 参考訳（メタデータ） (2020-03-15T21:55:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。