論文の概要: Self-supervised on Graphs: Contrastive, Generative,or Predictive
- arxiv url: http://arxiv.org/abs/2105.07342v1
- Date: Sun, 16 May 2021 03:30:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-18 15:05:58.876007
- Title: Self-supervised on Graphs: Contrastive, Generative,or Predictive
- Title（参考訳）: グラフの自己管理: 対照的に、生成的、予測的
- Authors: Lirong Wu, Haitao Lin, Zhangyang Gao, Cheng Tan, Stan.Z.Li
- Abstract要約: SSL(Self-supervised Learning)は、よく設計されたプリテキストタスクを通じて有益な知識を抽出するための新しいパラダイムとして登場しています。
既存のグラフSSLメソッドは、コントラスト、生成、予測の3つのカテゴリに分けられる。
また、一般的なデータセット、評価メトリクス、下流タスク、さまざまなアルゴリズムのオープンソース実装をまとめています。
- 参考スコア（独自算出の注目度）: 25.679620842010422
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning on graphs has recently achieved remarkable success on a variety
of tasks while such success relies heavily on the massive and carefully labeled
data. However, precise annotations are generally very expensive and
time-consuming. To address this problem, self-supervised learning (SSL) is
emerging as a new paradigm for extracting informative knowledge through
well-designed pretext tasks without relying on manual labels. In this survey,
we extend the concept of SSL, which first emerged in the fields of computer
vision and natural language processing, to present a timely and comprehensive
review of the existing SSL techniques for graph data. Specifically, we divide
existing graph SSL methods into three categories: contrastive, generative, and
predictive. More importantly, unlike many other surveys that only provide a
high-level description of published research, we present an additional
mathematical summary of the existing works in a unified framework. Furthermore,
to facilitate methodological development and empirical comparisons, we also
summarize the commonly used datasets, evaluation metrics, downstream tasks, and
open-source implementations of various algorithms. Finally, we discuss the
technical challenges and potential future directions for improving graph
self-supervised learning.
- Abstract（参考訳）: グラフの深層学習は、最近様々なタスクにおいて顕著な成功を収め、そのような成功は大規模で慎重にラベル付けされたデータに大きく依存している。
しかし、正確なアノテーションは一般的に非常に高価で時間を要する。
この問題に対処するため、手動ラベルに頼ることなく、よく設計されたプレテキストタスクを通じて情報的知識を抽出する新たなパラダイムとして、自己教師付き学習(SSL)が登場している。
本稿では,コンピュータビジョンと自然言語処理の分野で最初に登場したSSLの概念を拡張し,グラフデータのための既存のSSL技術について,タイムリーかつ包括的なレビューを行う。
具体的には、既存のグラフSSLメソッドを、コントラスト、生成、予測の3つのカテゴリに分割する。
さらに重要なことは、公表された研究の高レベルな記述のみを提供する他の多くの調査とは異なり、既存の研究の数学的概要を統一されたフレームワークで示すことである。
さらに,方法論的開発と経験的比較を容易にするため,一般的なデータセット,評価指標,下流タスク,各種アルゴリズムのオープンソース実装についてもまとめる。
最後に,グラフ自己教師付き学習を改善するための技術的課題と今後の方向性について述べる。
関連論文リスト
- Towards Graph Contrastive Learning: A Survey and Beyond [23.109430624817637]
グラフ上の自己教師型学習(SSL)が注目され、大きな進歩を遂げている。
SSLは、未ラベルのグラフデータから情報表現を生成する機械学習モデルを可能にする。
グラフコントラスト学習(GCL)は既存の文献では十分に研究されていない。
論文 参考訳（メタデータ） (2024-05-20T08:19:10Z) - Continual Learning on Graphs: Challenges, Solutions, and Opportunities [72.7886669278433]
本稿では,既存の連続グラフ学習(CGL)アルゴリズムの総合的なレビューを行う。
従来の連続学習手法と比較し,従来の連続学習手法の適用性を分析した。
アクセス可能なアルゴリズムの包括的なリストを含む、最新のリポジトリを維持します。
論文 参考訳（メタデータ） (2024-02-18T12:24:45Z) - Few-Shot Learning on Graphs: from Meta-learning to Pre-training and
Prompting [56.25730255038747]
この調査は、最近の展開を合成し、比較洞察を提供し、将来の方向性を特定するための取り組みである。
我々は,既存の研究をメタラーニングアプローチ,事前学習アプローチ,ハイブリッドアプローチの3つの主要なファミリーに体系的に分類した。
これらの手法間の関係を解析し,その強みと限界を比較する。
論文 参考訳（メタデータ） (2024-02-02T14:32:42Z) - A Survey of Data-Efficient Graph Learning [16.053913182723143]
研究フロンティアとして,データ効率グラフ学習(DEGL)の新たな概念を紹介した。
我々は、自己教師付きグラフ学習、半教師付きグラフ学習、少数ショットグラフ学習など、いくつかの重要な側面に関する最近の進歩を体系的にレビューした。
論文 参考訳（メタデータ） (2024-02-01T09:28:48Z) - Semi-Supervised and Unsupervised Deep Visual Learning: A Survey [76.2650734930974]
半教師なし学習と教師なし学習は、ラベルなしの視覚データから学ぶための有望なパラダイムを提供する。
本稿では, 半教師付き学習(SSL)と非教師付き学習(UL)の先進的な深層学習アルゴリズムについて, 統一的な視点による視覚的認識について概説する。
論文 参考訳（メタデータ） (2022-08-24T04:26:21Z) - GraphMAE: Self-Supervised Masked Graph Autoencoders [52.06140191214428]
本稿では,自己教師付きグラフ学習における課題を軽減するマスク付きグラフオートエンコーダGraphMAEを提案する。
我々は3つの異なるグラフ学習タスクに対して、21の公開データセットに関する広範な実験を行った。
その結果,GraphMAEはグラフオートエンコーダであり,設計に注意を払っている。
論文 参考訳（メタデータ） (2022-05-22T11:57:08Z) - Graph Self-Supervised Learning: A Survey [73.86209411547183]
SSL(Self-supervised Learning)は、グラフデータの有望でトレンドの学習パラダイムとなっています。
グラフデータにSSL技術を用いた既存のアプローチをタイムリーかつ包括的にレビューします。
論文 参考訳（メタデータ） (2021-02-27T03:04:21Z) - Graph-based Semi-supervised Learning: A Comprehensive Review [51.26862262550445]
半教師付き学習(ssl)はラベル付きデータとラベルなしデータの両方を利用する能力があるため、実際非常に価値があります。
重要なSSLメソッドのクラスは、グラフベースの半教師付き学習(GSSL)メソッドに対応するグラフとしてデータを自然に表現することです。
GSSLメソッドは、構造のユニークさ、アプリケーションの普遍性、大規模データへのスケーラビリティのために、さまざまなドメインでその利点を実証しています。
論文 参考訳（メタデータ） (2021-02-26T05:11:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。