論文の概要: Spectral Augmentations for Graph Contrastive Learning

• arxiv url: http://arxiv.org/abs/2302.02909v1
• Date: Mon, 6 Feb 2023 16:26:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-07 16:01:16.764145
• Title: Spectral Augmentations for Graph Contrastive Learning
• Title（参考訳）: グラフコントラスト学習のためのスペクトル拡張
• Authors: Amur Ghose, Yingxue Zhang, Jianye Hao, Mark Coates
• Abstract要約: コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。 近年の研究では、グラフ表現学習における事前学習の有用性が示されている。 本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
• 参考スコア（独自算出の注目度）: 50.149996923976836
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Contrastive learning has emerged as a premier method for learning representations with or without supervision. Recent studies have shown its utility in graph representation learning for pre-training. Despite successes, the understanding of how to design effective graph augmentations that can capture structural properties common to many different types of downstream graphs remains incomplete. We propose a set of well-motivated graph transformation operations derived via graph spectral analysis to provide a bank of candidates when constructing augmentations for a graph contrastive objective, enabling contrastive learning to capture useful structural representation from pre-training graph datasets. We first present a spectral graph cropping augmentation that involves filtering nodes by applying thresholds to the eigenvalues of the leading Laplacian eigenvectors. Our second novel augmentation reorders the graph frequency components in a structural Laplacian-derived position graph embedding. Further, we introduce a method that leads to improved views of local subgraphs by performing alignment via global random walk embeddings. Our experimental results indicate consistent improvements in out-of-domain graph data transfer compared to state-of-the-art graph contrastive learning methods, shedding light on how to design a graph learner that is able to learn structural properties common to diverse graph types.
• Abstract（参考訳）: コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として登場した。 近年,グラフ表現学習における事前学習の有用性が示されている。 成功にもかかわらず、多くの下流グラフに共通する構造特性を捉えることができる効果的なグラフ拡張を設計する方法の理解はいまだ不完全である。 本稿では,グラフスペクトル分析によって導出されたグラフ変換操作の集合を提案し,グラフの対照的な目的に対する拡張を構築する際の候補のバンクを提供し,事前学習グラフデータセットから有用な構造表現を抽出するコントラスト学習を実現する。 まず,先行ラプラシアン固有ベクトルの固有値にしきい値を適用することで,ノードをフィルタリングするスペクトルグラフクロッピング拡張を提案する。 2つ目の新しい拡張は、構造ラプラシアン由来の位置グラフ埋め込みにおけるグラフ周波数成分を並べ替える。 さらに,大域的ランダムウォーク埋め込みによるアライメントを行うことで,局所部分グラフの視点を改善する手法を提案する。 実験の結果,最先端のグラフコントラスト学習法と比較して,領域外グラフデータ転送における一貫した改善が示され,多様なグラフタイプに共通する構造的特性を学習可能なグラフ学習器の設計方法に光を当てている。

関連論文リスト

• Knowledge Probing for Graph Representation Learning [12.960185655357495]
  グラフ表現学習において,グラフ学習手法のファミリーが異なるレベルの知識を符号化したかどうかを調査・解釈するための新しいグラフ探索フレームワーク(GraphProbe)を提案する。 グラフの固有の性質に基づいて,異なる視点からグラフ表現学習過程を体系的に研究する3つのプローブを設計する。 本研究では、ランダムウォークに基づく9つの代表的なグラフ学習手法、基本グラフニューラルネットワーク、自己教師付きグラフ手法を用いて、詳細な評価ベンチマークを構築し、ノード分類、リンク予測、グラフ分類のための6つのベンチマークデータセットでそれらを探索する。
  論文  参考訳（メタデータ） (2024-08-07T16:27:45Z)
• Multi-Scale Subgraph Contrastive Learning [9.972544118719572]
  細粒度セマンティック情報を特徴付けるマルチスケールサブグラフコントラスト学習アーキテクチャを提案する。 具体的には、サブグラフサンプリングに基づいて、異なるスケールでグローバルおよびローカルなビューを生成し、それらのセマンティックアソシエーションに基づいて複数のコントラスト関係を構築する。
  論文  参考訳（メタデータ） (2024-03-05T07:17:18Z)
• Through the Dual-Prism: A Spectral Perspective on Graph Data Augmentation for Graph Classification [71.36575018271405]
  本稿では,DP-NoiseとDP-Maskを組み合わせたDual-Prism(DP)拡張手法を提案する。 低周波固有値の変動を保ちながら、拡張グラフを生成する際に、臨界特性を大規模に保存できることが判明した。
  論文  参考訳（メタデータ） (2024-01-18T12:58:53Z)
• Cross-View Graph Consistency Learning for Invariant Graph Representations [16.007232280413806]
  リンク予測のための不変グラフ表現を学習するクロスビューグラフ一貫性学習(CGCL)法を提案する。 本稿では,CGCL法の有効性を実証的かつ実験的に実証する。
  論文  参考訳（メタデータ） (2023-11-20T14:58:47Z)
• Contrastive Learning for Non-Local Graphs with Multi-Resolution Structural Views [1.4445779250002606]
  本稿では,グラフ上の拡散フィルタを統合する新しい多視点コントラスト学習手法を提案する。 複数のグラフビューを拡張として組み込むことで、異種グラフの構造的等価性を捉える。
  論文  参考訳（メタデータ） (2023-08-19T17:42:02Z)
• State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
  グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。 グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。 ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
  論文  参考訳（メタデータ） (2023-01-14T09:15:49Z)
• Graph Self-supervised Learning with Accurate Discrepancy Learning [64.69095775258164]
  離散性に基づく自己監督型LeArning(D-SLA)と呼ばれる原図と摂動グラフの正確な相違を学習することを目的としたフレームワークを提案する。 本稿では,分子特性予測,タンパク質機能予測,リンク予測タスクなど,グラフ関連下流タスクにおける本手法の有効性を検証する。
  論文  参考訳（メタデータ） (2022-02-07T08:04:59Z)
• Dual Space Graph Contrastive Learning [82.81372024482202]
  本研究では,新しいグラフコントラスト学習手法,すなわち textbfDual textbfSpace textbfGraph textbfContrastive (DSGC) Learningを提案する。 両空間にはグラフデータを埋め込み空間に表現する独自の利点があるので、グラフコントラスト学習を用いて空間をブリッジし、双方の利点を活用することを期待する。
  論文  参考訳（メタデータ） (2022-01-19T04:10:29Z)
• GraphOpt: Learning Optimization Models of Graph Formation [72.75384705298303]
  本稿では,グラフ構造形成の暗黙的モデルを学ぶエンドツーエンドフレームワークを提案し,その基盤となる最適化機構を明らかにする。 学習した目的は、観測されたグラフプロパティの説明として機能し、ドメイン内の異なるグラフを渡すために自分自身を貸すことができる。 GraphOptは、グラフ内のリンク生成をシーケンシャルな意思決定プロセスとして、最大エントロピー逆強化学習アルゴリズムを用いて解決する。
  論文  参考訳（メタデータ） (2020-07-07T16:51:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。