論文の概要: Revisiting Positive Samples in Graph Contrastive Learning: From the Perspective of Message Passing

• arxiv url: http://arxiv.org/abs/2606.10284v1
• Date: Tue, 09 Jun 2026 01:13:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.241566
• Title: Revisiting Positive Samples in Graph Contrastive Learning: From the Perspective of Message Passing
• Title（参考訳）: グラフコントラスト学習における正のサンプルの再検討:メッセージパッシングの観点から
• Authors: Lianze Shan, Ningchong Wang, Jitao Zhao, Di Jin, Dongxiao He,
• Abstract要約: グラフ学習(GCL)は、正のサンプル間の類似性を最大化し、負のサンプル間のグラフエンコーダを最小化することによって、グラフエンコーダを訓練する。 GCLは, 正のサンプルを使わずとも, 競争性能を向上できることを示す。
• 参考スコア（独自算出の注目度）: 25.380024917493454
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph Contrastive Learning (GCL), which trains graph encoders by maximizing similarity between positive samples and minimizing it between negative ones, has emerged as a mainstream graph pre-training paradigm. It is widely recognized that positive samples are essential in GCLs. Ideally, maximizing the similarity of positive samples enables graph encoders to capture intrinsic semantic and patterns of graph data. However, we discover an interesting phenomenon: GCLs can achieve competitive performance even without positive samples. This motivates us to revisit the fundamental mechanism of positive samples in GCLs. From the perspective of Dirichlet energy, we theoretically finds that message passing, a key mechanism in graph encoders, trivializes the maximization of positive samples, preventing GCLs from effectively learning from positive samples. To address this, we propose SPGCL to mitigate the trivialization caused by message passing and restore the learning efficacy of positive samples. Specifically, we find that high Dirichlet energy features help positive samples provide effective learning signals while low Dirichlet energy features contribute little to positive learning signal but is useful for positive sampling. Based on this, SPGCL propagates only high Dirichlet energy features and uses low energy features to construct a probability matrix for reliable positive sampling. Extensive experiments demonstrate the effectiveness of SPGCL.
• Abstract（参考訳）: グラフコントラスト学習(GCL)は、正のサンプル間の類似性を最大化し、負のサンプル間の類似性を最小化し、グラフエンコーダを訓練する。 GCLには正のサンプルが必須であることが広く認識されている。 理想的には、正のサンプルの類似性を最大化することで、グラフエンコーダは固有の意味とグラフデータのパターンをキャプチャできる。 しかし、GCLは正のサンプルを使わずに競争性能を達成できるという興味深い現象が発見された。 このことは、GCLにおける正のサンプルの基本的なメカニズムを再考する動機となっている。 ディリクレエネルギーの観点から、グラフエンコーダの重要なメカニズムであるメッセージパッシングは、正のサンプルの最大化を自明にし、GCLが正のサンプルから効果的に学習することを防ぐ。 そこで本稿では,メッセージパッシングによる自明化を緩和し,正のサンプルの学習効率を回復するためのSPGCLを提案する。 具体的には, 高いディリクレエネルギー特性は正のサンプルが効果的な学習信号を提供するのに役立ち, 低いディリクレエネルギー特性は正の学習信号にはほとんど寄与しないが, 正のサンプリングには有用であることがわかった。 これに基づいて、SPGCLは高ディリクレエネルギー特性のみを伝播し、低エネルギー特性を用いて信頼性の高い正のサンプリングのための確率行列を構築する。 大規模な実験はSPGCLの有効性を示す。

関連論文リスト

• InfoNCE is a Free Lunch for Semantically guided Graph Contrastive Learning [60.61079931266331]
  グラフコントラスト学習(GCL)は、グラフ基盤モデルやLLMの研究の急増において、グラフのエンハンサーとして重要な役割を担っている。 従来のGCLでは、自己監督タスクの定義に拡張を使用し、強化ペアを正のサンプルとして、その他のものを負のサンプルとして扱う。 本稿では,GCLは基本的に,自己教師型タスクの定義を意味的に導くべき,肯定的非ラベル付き学習問題である,と論じる。
  論文  参考訳（メタデータ） (2025-05-07T05:27:36Z)
• Does GCL Need a Large Number of Negative Samples? Enhancing Graph Contrastive Learning with Effective and Efficient Negative Sampling [17.51838571216239]
  Graph Contrastive Learningは、低次元グラフ表現を自己教師する。 GCLの有効性は多数の負の対に依存するという意見が一致している。 有効かつ効率的な負のサンプルであるE2Negを用いて,GCLと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-03-23T03:09:31Z)
• SpeGCL: Self-supervised Graph Spectrum Contrastive Learning without Positive Samples [44.315865532262876]
  グラフコントラスト学習(GCL)は、入力データのノイズやゆらぎの管理に優れており、様々な分野で人気がある。 既存のGCL法は主にノードの特徴表現の時間領域(低周波情報)に焦点を当てている。 正のサンプルを持たない新しいスペクトルGCLフレームワークSpeGCLを提案する。
  論文  参考訳（メタデータ） (2024-10-14T10:39:38Z)
• Topology Reorganized Graph Contrastive Learning with Mitigating Semantic Drift [28.83750578838018]
  グラフコントラスト学習(GCL)は、グラフにおけるノード表現学習に有効なパラダイムである。 対照的な視点の多様性を高めるために,現在のGCLを補うための2つの単純かつ効果的なグローバルトポロジ的拡張を提案する。
  論文  参考訳（メタデータ） (2024-07-23T13:55:33Z)
• Rethinking and Simplifying Bootstrapped Graph Latents [48.76934123429186]
  グラフ・コントラッシブ・ラーニング(GCL)はグラフ自己教師型ラーニングにおいて代表的なパラダイムとして登場した。 SGCLは2つの繰り返しの出力を正のペアとして利用するシンプルで効果的なGCLフレームワークである。 我々は,SGCLがより少ないパラメータ,少ない時間と空間コスト,およびかなりの収束速度で競合性能を達成可能であることを示す。
  論文  参考訳（メタデータ） (2023-12-05T09:49:50Z)
• Single-Pass Contrastive Learning Can Work for Both Homophilic and Heterophilic Graph [60.28340453547902]
  グラフコントラッシブ・ラーニング(GCL)技術は通常、コントラッシブ・ロスを構築するために単一のインスタンスに対して2つのフォワードパスを必要とする。 既存のGCLアプローチは、強力なパフォーマンス保証を提供していない。 我々はSingle-Pass Graph Contrastive Learning法(SP-GCL)を実装した。 経験的に、SP-GCLが学んだ機能は、計算オーバーヘッドを著しく少なくして、既存の強いベースラインにマッチまたは性能を向上することができる。
  論文  参考訳（メタデータ） (2022-11-20T07:18:56Z)
• Enhancing Graph Contrastive Learning with Node Similarity [4.60032347615771]
  グラフコントラスト学習(GCL)は、自己教師型学習の代表的なフレームワークである。 GCLは、意味的に類似したノード(正のサンプル)と異種ノード(負のサンプル)とアンカーノードとの対比によってノード表現を学習する。 本稿では,全ての正のサンプルと偽陰性サンプルを含まない拡張目的を提案する。
  論文  参考訳（メタデータ） (2022-08-13T22:49:20Z)
• Contrastive Attraction and Contrastive Repulsion for Representation Learning [131.72147978462348]
  コントラスト学習(CL)法は,複数の負のサンプルに対して,エンコーダが各正のサンプルと対比する自己超越的な方法でデータ表現を学習する。 最近のCL法は、ImageNetのような大規模データセットで事前訓練された場合、有望な結果を得た。 自己グループ内の正と負のサンプルを別々に比較し、正と負の群を対比して進行する2つのCL戦略を提案する。
  論文  参考訳（メタデータ） (2021-05-08T17:25:08Z)
• Understanding Negative Sampling in Graph Representation Learning [87.35038268508414]
  最適化目標と結果のばらつきを決定するためには, 正のサンプリングと同様に負のサンプリングが重要であることを示す。 我々は,自己コントラスト近似による正の分布を近似し,メトロポリス・ハスティングスによる負のサンプリングを高速化するメトロポリス・ハスティングス(MCNS)を提案する。 提案手法は,リンク予測,ノード分類,パーソナライズドレコメンデーションを含む,下流グラフ学習タスクをカバーする5つのデータセットに対して評価する。
  論文  参考訳（メタデータ） (2020-05-20T06:25:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。