論文の概要: PyG-SSL: A Graph Self-Supervised Learning Toolkit
- arxiv url: http://arxiv.org/abs/2412.21151v1
- Date: Mon, 30 Dec 2024 18:32:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-31 16:06:51.614538
- Title: PyG-SSL: A Graph Self-Supervised Learning Toolkit
- Title(参考訳): PyG-SSL: グラフによる自己監視型学習ツールキット
- Authors: Lecheng Zheng, Baoyu Jing, Zihao Li, Zhichen Zeng, Tianxin Wei, Mengting Ai, Xinrui He, Lihui Liu, Dongqi Fu, Jiaxuan You, Hanghang Tong, Jingrui He,
- Abstract要約: Graph Self-Supervised Learning (SSL)は近年,重要な研究領域として現れている。
これらのグラフSSLメソッドの顕著な成果にもかかわらず、その実装は初心者にとって大きな課題となっている。
PyG-SSLと呼ばれるグラフSSLツールキットは、PyTorch上に構築されており、さまざまなディープラーニングや科学計算バックエンドと互換性がある。
- 参考スコア(独自算出の注目度): 71.22547762704602
- License:
- Abstract: Graph Self-Supervised Learning (SSL) has emerged as a pivotal area of research in recent years. By engaging in pretext tasks to learn the intricate topological structures and properties of graphs using unlabeled data, these graph SSL models achieve enhanced performance, improved generalization, and heightened robustness. Despite the remarkable achievements of these graph SSL methods, their current implementation poses significant challenges for beginners and practitioners due to the complex nature of graph structures, inconsistent evaluation metrics, and concerns regarding reproducibility hinder further progress in this field. Recognizing the growing interest within the research community, there is an urgent need for a comprehensive, beginner-friendly, and accessible toolkit consisting of the most representative graph SSL algorithms. To address these challenges, we present a Graph SSL toolkit named PyG-SSL, which is built upon PyTorch and is compatible with various deep learning and scientific computing backends. Within the toolkit, we offer a unified framework encompassing dataset loading, hyper-parameter configuration, model training, and comprehensive performance evaluation for diverse downstream tasks. Moreover, we provide beginner-friendly tutorials and the best hyper-parameters of each graph SSL algorithm on different graph datasets, facilitating the reproduction of results. The GitHub repository of the library is https://github.com/iDEA-iSAIL-Lab-UIUC/pyg-ssl.
- Abstract(参考訳): Graph Self-Supervised Learning (SSL)は近年,重要な研究領域として現れている。
ラベルのないデータを用いてグラフの複雑なトポロジ構造と特性を学習するために、プリテキストタスクに係わることにより、これらのグラフSSLモデルは、性能の向上、一般化の向上、ロバスト性の向上を実現している。
これらのグラフSSL手法の顕著な成果にもかかわらず、その実装は、グラフ構造の複雑な性質、一貫性のない評価指標、再現性に関する懸念がこの分野のさらなる進歩を妨げるため、初心者や実践者にとって大きな課題となっている。
研究コミュニティ内での関心が高まっていることを認識し、最も代表的なグラフSSLアルゴリズムからなる包括的で初心者フレンドリでアクセスしやすいツールキットが必要である。
これらの課題に対処するために、PyTorch上に構築され、さまざまなディープラーニングや科学計算バックエンドと互換性のある、PyG-SSLというグラフSSLツールキットを紹介します。
ツールキット内では、データセットの読み込み、ハイパーパラメータ設定、モデルトレーニング、さまざまな下流タスクに対する包括的なパフォーマンス評価を含む統合されたフレームワークを提供する。
さらに,各グラフ SSL アルゴリズムの初心者フレンドリーなチュートリアルと最適なハイパーパラメータをグラフデータセット上で提供し,その結果の再現を容易にする。
ライブラリのGitHubリポジトリはhttps://github.com/iDEA-iSAIL-Lab-UIUC/pyg-sslである。
関連論文リスト
- Do Neural Scaling Laws Exist on Graph Self-Supervised Learning? [9.297227372861876]
自己教師付き学習(SSL)は、大規模未ラベルデータの知識を効果的に活用することにより、NLPおよびCVドメインの基盤モデルを得るのに不可欠である。
グラフドメインの既存のSSLが、大規模な事前トレーニングでGraph Foundation Models(GFMs)を構築するためのスケーリング動作に従うことができるかどうかは、いまだ謎のままである。
本稿では,GFM開発における既存のSSL技術の実現可能性について検討し,新しい評価試行でグラフSSL設計の新たな方向性を開拓する。
論文 参考訳(メタデータ) (2024-08-20T23:45:11Z) - Towards Graph Contrastive Learning: A Survey and Beyond [23.109430624817637]
グラフ上の自己教師型学習(SSL)が注目され、大きな進歩を遂げている。
SSLは、未ラベルのグラフデータから情報表現を生成する機械学習モデルを可能にする。
グラフコントラスト学習(GCL)は既存の文献では十分に研究されていない。
論文 参考訳(メタデータ) (2024-05-20T08:19:10Z) - Continual Learning on Graphs: Challenges, Solutions, and Opportunities [72.7886669278433]
本稿では,既存の連続グラフ学習(CGL)アルゴリズムの総合的なレビューを行う。
従来の連続学習手法と比較し,従来の連続学習手法の適用性を分析した。
アクセス可能なアルゴリズムの包括的なリストを含む、最新のリポジトリを維持します。
論文 参考訳(メタデータ) (2024-02-18T12:24:45Z) - GSLB: The Graph Structure Learning Benchmark [34.859275408785614]
グラフ構造学習(GSL)は、グラフニューラルネットワーク(GNN)のパラメータと計算グラフ構造の両方を同時に最適化する能力のため、近年注目されている。
パフォーマンス評価の標準的な実験的な設定や公正な比較は存在せず、この分野の進歩を理解するのに大きな障害を生み出します。
グラフ構造学習ベンチマーク (GSLB) を開発した。
論文 参考訳(メタデータ) (2023-10-08T14:13:03Z) - GraphMAE: Self-Supervised Masked Graph Autoencoders [52.06140191214428]
本稿では,自己教師付きグラフ学習における課題を軽減するマスク付きグラフオートエンコーダGraphMAEを提案する。
我々は3つの異なるグラフ学習タスクに対して、21の公開データセットに関する広範な実験を行った。
その結果,GraphMAEはグラフオートエンコーダであり,設計に注意を払っている。
論文 参考訳(メタデータ) (2022-05-22T11:57:08Z) - Self-supervised on Graphs: Contrastive, Generative,or Predictive [25.679620842010422]
SSL(Self-supervised Learning)は、よく設計されたプリテキストタスクを通じて有益な知識を抽出するための新しいパラダイムとして登場しています。
既存のグラフSSLメソッドは、コントラスト、生成、予測の3つのカテゴリに分けられる。
また、一般的なデータセット、評価メトリクス、下流タスク、さまざまなアルゴリズムのオープンソース実装をまとめています。
論文 参考訳(メタデータ) (2021-05-16T03:30:03Z) - Graph Self-Supervised Learning: A Survey [73.86209411547183]
SSL(Self-supervised Learning)は、グラフデータの有望でトレンドの学習パラダイムとなっています。
グラフデータにSSL技術を用いた既存のアプローチをタイムリーかつ包括的にレビューします。
論文 参考訳(メタデータ) (2021-02-27T03:04:21Z) - Graph-based Semi-supervised Learning: A Comprehensive Review [51.26862262550445]
半教師付き学習(ssl)はラベル付きデータとラベルなしデータの両方を利用する能力があるため、実際非常に価値があります。
重要なSSLメソッドのクラスは、グラフベースの半教師付き学習(GSSL)メソッドに対応するグラフとしてデータを自然に表現することです。
GSSLメソッドは、構造のユニークさ、アプリケーションの普遍性、大規模データへのスケーラビリティのために、さまざまなドメインでその利点を実証しています。
論文 参考訳(メタデータ) (2021-02-26T05:11:09Z) - Self-supervised Learning on Graphs: Deep Insights and New Direction [66.78374374440467]
自己教師付き学習(SSL)は、ラベルのないデータにドメイン固有のプレテキストタスクを作成することを目的としている。
グラフニューラルネットワーク(GNN)の形でのグラフ領域へのディープラーニングの一般化への関心が高まっている。
論文 参考訳(メタデータ) (2020-06-17T20:30:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。