論文の概要: An Empirical Study of Graph Contrastive Learning
- arxiv url: http://arxiv.org/abs/2109.01116v1
- Date: Thu, 2 Sep 2021 17:43:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-03 13:42:23.528560
- Title: An Empirical Study of Graph Contrastive Learning
- Title(参考訳): グラフコントラスト学習に関する実証的研究
- Authors: Yanqiao Zhu, Yichen Xu, Qiang Liu, Shu Wu
- Abstract要約: グラフコントラスト学習は、人間のアノテーションなしでグラフ表現を学習するための新しいパラダイムを確立する。
一般的なGCLパラダイムでは,拡張関数,コントラストモード,コントラスト目的,負のマイニング技術など,いくつかの重要な設計上の考慮事項を識別する。
今後の研究の促進とGCLアルゴリズムの実装を容易にするため,モジュール化されたCLコンポーネント,標準化された評価,実験管理を特徴とする,使い易いライブラリPyGCLを開発した。
- 参考スコア(独自算出の注目度): 17.246488437677616
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Contrastive Learning (GCL) establishes a new paradigm for learning
graph representations without human annotations. Although remarkable progress
has been witnessed recently, the success behind GCL is still left somewhat
mysterious. In this work, we first identify several critical design
considerations within a general GCL paradigm, including augmentation functions,
contrasting modes, contrastive objectives, and negative mining techniques.
Then, to understand the interplay of different GCL components, we conduct
extensive, controlled experiments over a set of benchmark tasks on datasets
across various domains. Our empirical studies suggest a set of general receipts
for effective GCL, e.g., simple topology augmentations that produce sparse
graph views bring promising performance improvements; contrasting modes should
be aligned with the granularities of end tasks. In addition, to foster future
research and ease the implementation of GCL algorithms, we develop an
easy-to-use library PyGCL, featuring modularized CL components, standardized
evaluation, and experiment management. We envision this work to provide useful
empirical evidence of effective GCL algorithms and offer several insights for
future research.
- Abstract(参考訳): グラフコントラスト学習(GCL)は、人間のアノテーションなしでグラフ表現を学習するための新しいパラダイムを確立する。
最近は目覚ましい進歩が見られたが、GCLの成功はいまだに謎のままである。
本研究では,まず,拡張関数,コントラストモード,コントラスト目標,負のマイニング手法など,一般のgclパラダイムにおける重要な設計上の考慮事項を明らかにする。
そして、異なるGCLコンポーネントの相互作用を理解するために、さまざまなドメインにわたるデータセットのベンチマークタスクのセットに対して、広範囲に制御された実験を行う。
我々の実証的研究は、例えば、スパースグラフビューを生成する単純なトポロジ拡張のような、効果的なGCLのための一般的なレシートセットが、有望なパフォーマンス改善をもたらすことを示唆している。
さらに,今後の研究の促進とGCLアルゴリズムの実装を容易にするため,モジュール化されたCLコンポーネント,標準化された評価,実験管理を備えた,使い易いライブラリPyGCLを開発した。
本研究は,有効なGCLアルゴリズムの実証的証拠を提供するとともに,今後の研究にいくつかの洞察を与えるものである。
関連論文リスト
- HyperGCL: Multi-Modal Graph Contrastive Learning via Learnable Hypergraph Views [1.4678959818041628]
グラフコントラスト学習(GCL)は,グラフ表現の改善に顕著な効果を示した。
本稿では,ハイパーグラフの観点から,新しいマルチモーダルGCLフレームワークであるHyperGCLを紹介する。
論文 参考訳(メタデータ) (2025-02-18T20:57:56Z) - Overcoming Pitfalls in Graph Contrastive Learning Evaluation: Toward
Comprehensive Benchmarks [60.82579717007963]
本稿では,グラフコントラスト学習(GCL)手法の有効性,一貫性,全体的な能力をより正確に評価するために,拡張された評価フレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-24T01:47:56Z) - Rethinking and Simplifying Bootstrapped Graph Latents [48.76934123429186]
グラフ・コントラッシブ・ラーニング(GCL)はグラフ自己教師型ラーニングにおいて代表的なパラダイムとして登場した。
SGCLは2つの繰り返しの出力を正のペアとして利用するシンプルで効果的なGCLフレームワークである。
我々は,SGCLがより少ないパラメータ,少ない時間と空間コスト,およびかなりの収束速度で競合性能を達成可能であることを示す。
論文 参考訳(メタデータ) (2023-12-05T09:49:50Z) - HomoGCL: Rethinking Homophily in Graph Contrastive Learning [64.85392028383164]
HomoGCL はモデルに依存しないフレームワークで、近隣のノードに固有の意味を持つ正の集合を拡大する。
我々は、HomoGCLが6つの公開データセットにまたがって複数の最先端結果をもたらすことを示す。
論文 参考訳(メタデータ) (2023-06-16T04:06:52Z) - Adversarial Learning Data Augmentation for Graph Contrastive Learning in
Recommendation [56.10351068286499]
グラフコントラスト学習のための学習可能なデータ拡張法(LDA-GCL)を提案する。
提案手法は,InfoMin と InfoMax の原則に従うデータ強化学習とグラフコントラスト学習を含む。
本手法は,データ拡張とユーザやアイテムの効果的な表現を学習するために,対向損失関数を最適化する。
論文 参考訳(メタデータ) (2023-02-05T06:55:51Z) - MA-GCL: Model Augmentation Tricks for Graph Contrastive Learning [41.963242524220654]
グラフコントラスト学習(GCL)のための3つの簡易実装モデル拡張手法を提案する。
具体的には,GCLに対して,非対称,ランダム,シャッフルという,実装が容易なモデル拡張トリックを3つ提示する。
実験の結果,MA-GCLはノード分類ベンチマークで最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2022-12-14T05:04:10Z) - Unifying Graph Contrastive Learning with Flexible Contextual Scopes [57.86762576319638]
フレキシブルコンテキストスコープを用いたグラフコントラスト学習(略してUGCL)という自己教師型学習手法を提案する。
本アルゴリズムは,隣接行列のパワーを制御し,コンテキストスコープによるフレキシブルな文脈表現を構築する。
局所的スコープと文脈的スコープの両方の表現に基づいて、distLはグラフ表現学習のための非常に単純な対照的な損失関数を最適化する。
論文 参考訳(メタデータ) (2022-10-17T07:16:17Z) - Heterogeneous Graph Contrastive Multi-view Learning [11.489983916543805]
グラフデータセット上での識別ノード表現を学習するために,グラフコントラスト学習(GCL)が開発された。
本稿では,HGCML(Heterogeneous Graph Contrastive Multi-view Learning)モデルを提案する。
HGCMLは、5つの実世界のベンチマークデータセットにおける最先端のベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2022-10-01T10:53:48Z) - GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。
本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2022-03-24T02:58:36Z) - Structural and Semantic Contrastive Learning for Self-supervised Node
Representation Learning [32.126228702554144]
グラフコントラスト学習(GCL)は、自己教師型で一般化可能、転送可能、堅牢なノード表現を学習するために多くの研究関心を集めている。
この作業では、既存の教師なしのGCLを超越して、シンプルだが効果的なフレームワークであるS$3$-CLを提案し、それらの制限に対処します。
実験の結果、S$3$-CLで学習したノード表現は、最先端のGCL法と比較して、異なるダウンストリームタスクにおいて優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2022-02-17T07:20:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。