論文の概要: Heterogeneous Graph Contrastive Multi-view Learning
- arxiv url: http://arxiv.org/abs/2210.00248v1
- Date: Sat, 1 Oct 2022 10:53:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 16:19:13.553396
- Title: Heterogeneous Graph Contrastive Multi-view Learning
- Title(参考訳): 不均一グラフコントラスト多視点学習
- Authors: Zehong Wang, Qi Li, Donghua Yu, Xiaolong Han, Xiao-Zhi Gao, Shigen
Shen
- Abstract要約: グラフデータセット上での識別ノード表現を学習するために,グラフコントラスト学習(GCL)が開発された。
本稿では,HGCML(Heterogeneous Graph Contrastive Multi-view Learning)モデルを提案する。
HGCMLは、5つの実世界のベンチマークデータセットにおける最先端のベースラインを一貫して上回る。
- 参考スコア(独自算出の注目度): 11.489983916543805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inspired by the success of contrastive learning (CL) in computer vision and
natural language processing, graph contrastive learning (GCL) has been
developed to learn discriminative node representations on graph datasets.
However, the development of GCL on Heterogeneous Information Networks (HINs) is
still in the infant stage. For example, it is unclear how to augment the HINs
without substantially altering the underlying semantics, and how to design the
contrastive objective to fully capture the rich semantics. Moreover, early
investigations demonstrate that CL suffers from sampling bias, whereas
conventional debiasing techniques are empirically shown to be inadequate for
GCL. How to mitigate the sampling bias for heterogeneous GCL is another
important problem. To address the aforementioned challenges, we propose a novel
Heterogeneous Graph Contrastive Multi-view Learning (HGCML) model. In
particular, we use metapaths as the augmentation to generate multiple subgraphs
as multi-views, and propose a contrastive objective to maximize the mutual
information between any pairs of metapath-induced views. To alleviate the
sampling bias, we further propose a positive sampling strategy to explicitly
select positives for each node via jointly considering semantic and structural
information preserved on each metapath view. Extensive experiments demonstrate
HGCML consistently outperforms state-of-the-art baselines on five real-world
benchmark datasets.
- Abstract(参考訳): コンピュータビジョンと自然言語処理におけるコントラスト学習(cl)の成功にインスパイアされたグラフコントラスト学習(gcl)は、グラフデータセットの識別ノード表現を学ぶために開発された。
しかし、異種情報ネットワーク(HIN)におけるGCLの開発は、まだ幼児期である。
例えば、下位のセマンティクスを実質的に変えることなくhinを補完する方法や、リッチセマンティクスを完全に捉えるためのコントラストの目的をどのように設計するかは明確ではない。
さらに、初期の研究では、CLはサンプリングバイアスに悩まされているのに対し、従来のデバイアス技術はGCLには不十分であることが実証的に示されている。
異種gclのサンプリングバイアスを軽減する方法も重要な問題である。
上記の課題に対処するため,HGCML(Heterogeneous Graph Contrastive Multi-view Learning)モデルを提案する。
特に,メタパスを拡張として,複数のサブグラフを複数ビューとして生成し,メタパスが引き起こすビュー間の相互情報を最大化するためのコントラスト的目的を提案する。
サンプリングバイアスを軽減するため,各メタパスビューに保存されている意味情報と構造情報を共同で考慮し,各ノードの正を明示的に選択する正のサンプリング戦略を提案する。
大規模な実験は、HGCMLが5つの実世界のベンチマークデータセットの最先端のベースラインを一貫して上回っていることを示している。
関連論文リスト
- LAMP: Learnable Meta-Path Guided Adversarial Contrastive Learning for Heterogeneous Graphs [22.322402072526927]
Heterogeneous Graph Contrastive Learning (HGCL)は通常、事前に定義されたメタパスを必要とする。
textsfLAMPは様々なメタパスのサブグラフを統一的で安定した構造に統合する。
textsfLAMPは、精度と堅牢性の観点から、既存の最先端の教師なしモデルよりも大幅に優れています。
論文 参考訳(メタデータ) (2024-09-10T08:27:39Z) - Topology Reorganized Graph Contrastive Learning with Mitigating Semantic Drift [28.83750578838018]
グラフコントラスト学習(GCL)は、グラフにおけるノード表現学習に有効なパラダイムである。
対照的な視点の多様性を高めるために,現在のGCLを補うための2つの単純かつ効果的なグローバルトポロジ的拡張を提案する。
論文 参考訳(メタデータ) (2024-07-23T13:55:33Z) - Generative-Enhanced Heterogeneous Graph Contrastive Learning [11.118517297006894]
異種グラフ(HG)は、実世界の複雑な関係をマルチタイプのノードとエッジによって効果的にモデル化することができる。
近年、自己教師型学習にインスパイアされたHGNN(Heterogeneous Graphs Neural Networks)は、下流タスクにデータ拡張とコントラッシブ・ディミネータを活用することで大きな可能性を示している。
本稿では,GHGCL(Generative-Enhanced Heterogeneous Graph Contrastive Learning)を提案する。
論文 参考訳(メタデータ) (2024-04-03T15:31:18Z) - Graph-level Protein Representation Learning by Structure Knowledge
Refinement [50.775264276189695]
本稿では、教師なしの方法でグラフ全体の表現を学習することに焦点を当てる。
本稿では、データ構造を用いて、ペアが正か負かの確率を決定する構造知識精製(Structure Knowledge Refinement, SKR)という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-05T09:05:33Z) - M2HGCL: Multi-Scale Meta-Path Integrated Heterogeneous Graph Contrastive
Learning [16.391439666603578]
マルチスケールなメタパス統合ヘテロジニアスグラフコントラスト学習(M2HGCL)モデルを提案する。
具体的には、メタパスを拡大し、直接的な隣接情報、初期メタパス隣情報、拡張されたメタパス隣情報とを共同で集約する。
3つの実世界のデータセットに関する広範な実験を通して、M2HGCLが現在の最先端のベースラインモデルより優れていることを示す。
論文 参考訳(メタデータ) (2023-09-03T06:39:56Z) - HomoGCL: Rethinking Homophily in Graph Contrastive Learning [64.85392028383164]
HomoGCL はモデルに依存しないフレームワークで、近隣のノードに固有の意味を持つ正の集合を拡大する。
我々は、HomoGCLが6つの公開データセットにまたがって複数の最先端結果をもたらすことを示す。
論文 参考訳(メタデータ) (2023-06-16T04:06:52Z) - Single-Pass Contrastive Learning Can Work for Both Homophilic and
Heterophilic Graph [60.28340453547902]
グラフコントラッシブ・ラーニング(GCL)技術は通常、コントラッシブ・ロスを構築するために単一のインスタンスに対して2つのフォワードパスを必要とする。
既存のGCLアプローチは、強力なパフォーマンス保証を提供していない。
我々はSingle-Pass Graph Contrastive Learning法(SP-GCL)を実装した。
経験的に、SP-GCLが学んだ機能は、計算オーバーヘッドを著しく少なくして、既存の強いベースラインにマッチまたは性能を向上することができる。
論文 参考訳(メタデータ) (2022-11-20T07:18:56Z) - Unifying Graph Contrastive Learning with Flexible Contextual Scopes [57.86762576319638]
フレキシブルコンテキストスコープを用いたグラフコントラスト学習(略してUGCL)という自己教師型学習手法を提案する。
本アルゴリズムは,隣接行列のパワーを制御し,コンテキストスコープによるフレキシブルな文脈表現を構築する。
局所的スコープと文脈的スコープの両方の表現に基づいて、distLはグラフ表現学習のための非常に単純な対照的な損失関数を最適化する。
論文 参考訳(メタデータ) (2022-10-17T07:16:17Z) - Geometry Contrastive Learning on Heterogeneous Graphs [50.58523799455101]
本稿では,幾何学コントラスト学習(Geometry Contrastive Learning, GCL)と呼ばれる,新しい自己指導型学習手法を提案する。
GCLはユークリッドと双曲的な視点からヘテロジニアスグラフを同時に見ることができ、リッチな意味論と複雑な構造をモデル化する能力の強い融合を目指している。
4つのベンチマークデータセットの大規模な実験は、提案手法が強いベースラインよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-25T03:54:53Z) - Stacked Hybrid-Attention and Group Collaborative Learning for Unbiased
Scene Graph Generation [62.96628432641806]
Scene Graph Generationは、まず与えられた画像内の視覚的コンテンツをエンコードし、次にそれらをコンパクトな要約グラフに解析することを目的としている。
まず,モーダル内改良とモーダル間相互作用を容易にする新しいスタック型ハイブリッド・アテンションネットワークを提案する。
次に、デコーダを最適化するための革新的なグループ協調学習戦略を考案する。
論文 参考訳(メタデータ) (2022-03-18T09:14:13Z) - An Empirical Study of Graph Contrastive Learning [17.246488437677616]
グラフコントラスト学習は、人間のアノテーションなしでグラフ表現を学習するための新しいパラダイムを確立する。
一般的なGCLパラダイムでは,拡張関数,コントラストモード,コントラスト目的,負のマイニング技術など,いくつかの重要な設計上の考慮事項を識別する。
今後の研究の促進とGCLアルゴリズムの実装を容易にするため,モジュール化されたCLコンポーネント,標準化された評価,実験管理を特徴とする,使い易いライブラリPyGCLを開発した。
論文 参考訳(メタデータ) (2021-09-02T17:43:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。