論文の概要: Overcoming Pitfalls in Graph Contrastive Learning Evaluation: Toward
Comprehensive Benchmarks
- arxiv url: http://arxiv.org/abs/2402.15680v1
- Date: Sat, 24 Feb 2024 01:47:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-27 17:30:57.129201
- Title: Overcoming Pitfalls in Graph Contrastive Learning Evaluation: Toward
Comprehensive Benchmarks
- Title(参考訳): グラフコントラスト学習評価における落とし穴の克服:総合ベンチマークに向けて
- Authors: Qian Ma, Hongliang Chi, Hengrui Zhang, Kay Liu, Zhiwei Zhang, Lu
Cheng, Suhang Wang, Philip S. Yu, Yao Ma
- Abstract要約: 本稿では,グラフコントラスト学習(GCL)手法の有効性,一貫性,全体的な能力をより正確に評価するために,拡張された評価フレームワークを提案する。
- 参考スコア(独自算出の注目度): 60.82579717007963
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rise of self-supervised learning, which operates without the need for
labeled data, has garnered significant interest within the graph learning
community. This enthusiasm has led to the development of numerous Graph
Contrastive Learning (GCL) techniques, all aiming to create a versatile graph
encoder that leverages the wealth of unlabeled data for various downstream
tasks. However, the current evaluation standards for GCL approaches are flawed
due to the need for extensive hyper-parameter tuning during pre-training and
the reliance on a single downstream task for assessment. These flaws can skew
the evaluation away from the intended goals, potentially leading to misleading
conclusions. In our paper, we thoroughly examine these shortcomings and offer
fresh perspectives on how GCL methods are affected by hyper-parameter choices
and the choice of downstream tasks for their evaluation. Additionally, we
introduce an enhanced evaluation framework designed to more accurately gauge
the effectiveness, consistency, and overall capability of GCL methods.
- Abstract(参考訳): ラベル付きデータを必要としないセルフ教師付き学習の台頭は、グラフ学習コミュニティにおいて大きな関心を集めている。
この熱意により、多くのグラフコントラスト学習(GCL)技術が開発され、様々な下流タスクにラベルなしデータの富を活用する多目的グラフエンコーダの開発を目指している。
しかしながら、GCLアプローチの現在の評価基準は、事前トレーニング中に広範なハイパーパラメータチューニングが必要であり、評価のために単一の下流タスクに依存するため、欠陥がある。
これらの欠陥は、評価を意図した目標から切り離し、誤解を招く可能性がある。
本稿では,これらの欠点を徹底的に検討し,gcl手法がハイパーパラメータ選択によってどのように影響を受けるか,その評価に下流タスクを選択するか,という新しい視点を提供する。
さらに,GCL手法の有効性,一貫性,全体的な性能をより正確に評価する拡張評価フレームワークを導入する。
関連論文リスト
- Towards Graph Contrastive Learning: A Survey and Beyond [23.109430624817637]
グラフ上の自己教師型学習(SSL)が注目され、大きな進歩を遂げている。
SSLは、未ラベルのグラフデータから情報表現を生成する機械学習モデルを可能にする。
グラフコントラスト学習(GCL)は既存の文献では十分に研究されていない。
論文 参考訳(メタデータ) (2024-05-20T08:19:10Z) - Adversarial Learning Data Augmentation for Graph Contrastive Learning in
Recommendation [56.10351068286499]
グラフコントラスト学習のための学習可能なデータ拡張法(LDA-GCL)を提案する。
提案手法は,InfoMin と InfoMax の原則に従うデータ強化学習とグラフコントラスト学習を含む。
本手法は,データ拡張とユーザやアイテムの効果的な表現を学習するために,対向損失関数を最適化する。
論文 参考訳(メタデータ) (2023-02-05T06:55:51Z) - GraphLearner: Graph Node Clustering with Fully Learnable Augmentation [76.63963385662426]
Contrastive Deep Graph Clustering (CDGC)は、異なるクラスタにノードをグループ化するために、コントラスト学習のパワーを活用する。
我々は、GraphLearnerと呼ばれる、完全学習可能な拡張を備えたグラフノードクラスタリングを提案する。
学習可能な拡張器を導入し、CDGCのための高品質でタスク固有の拡張サンプルを生成する。
論文 参考訳(メタデータ) (2022-12-07T10:19:39Z) - Features Based Adaptive Augmentation for Graph Contrastive Learning [0.0]
自己監督学習は、グラフ表現学習における高価なアノテーションの必要性を排除することを目的としている。
機能に基づく適応拡張(FebAA)アプローチを導入し、潜在的に影響力のある機能を特定し保存する。
8つのグラフ表現学習のベンチマークデータセットにおいて,GRACEとBGRLの精度を向上させることに成功した。
論文 参考訳(メタデータ) (2022-07-05T03:41:20Z) - GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。
本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2022-03-24T02:58:36Z) - Bayesian Graph Contrastive Learning [55.36652660268726]
本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
論文 参考訳(メタデータ) (2021-12-15T01:45:32Z) - Augmentations in Graph Contrastive Learning: Current Methodological
Flaws & Towards Better Practices [20.95255742208036]
グラフ分類は、バイオインフォマティクス、社会科学、自動偽ニュース検出、Webドキュメント分類などに適用できる。
近年、コントラスト学習(CL)により、教師なしコンピュータビジョンモデルと教師なしコンピュータビジョンモデルとの競争が活発化している。
i) 既存のグラフCLフレームワークが、弱い拡張や限られたデータにもかかわらず、なぜうまく機能するのか、そして (ii) 視覚的なCL原則に固執することで、グラフ分類タスクのパフォーマンスが向上するかどうかを判断する。
論文 参考訳(メタデータ) (2021-11-05T02:15:01Z) - An Empirical Study of Graph Contrastive Learning [17.246488437677616]
グラフコントラスト学習は、人間のアノテーションなしでグラフ表現を学習するための新しいパラダイムを確立する。
一般的なGCLパラダイムでは,拡張関数,コントラストモード,コントラスト目的,負のマイニング技術など,いくつかの重要な設計上の考慮事項を識別する。
今後の研究の促進とGCLアルゴリズムの実装を容易にするため,モジュール化されたCLコンポーネント,標準化された評価,実験管理を特徴とする,使い易いライブラリPyGCLを開発した。
論文 参考訳(メタデータ) (2021-09-02T17:43:45Z) - CogDL: A Comprehensive Library for Graph Deep Learning [55.694091294633054]
研究者や実践者が実験を行い、メソッドを比較し、簡単かつ効率的にアプリケーションを構築することができるグラフ深層学習ライブラリであるCogDLを紹介します。
CogDLでは,様々なグラフタスクに対するGNNモデルのトレーニングと評価のための統一設計を提案し,既存のグラフ学習ライブラリに固有のものである。
我々はCogDLのための効率的なスパース演算子を開発し、効率性のための最も競争力のあるグラフライブラリとなる。
論文 参考訳(メタデータ) (2021-03-01T12:35:16Z) - Ask-n-Learn: Active Learning via Reliable Gradient Representations for
Image Classification [29.43017692274488]
深い予測モデルは、ラベル付きトレーニングデータという形で人間の監督に依存する。
Ask-n-Learnは,各アルゴリズムで推定されたペスドラベルを用いて得られる勾配埋め込みに基づく能動的学習手法である。
論文 参考訳(メタデータ) (2020-09-30T05:19:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。