論文の概要: Do spectral cues matter in contrast-based graph self-supervised learning?
- arxiv url: http://arxiv.org/abs/2405.19600v1
- Date: Thu, 30 May 2024 01:30:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-31 18:36:41.425801
- Title: Do spectral cues matter in contrast-based graph self-supervised learning?
- Title（参考訳）: コントラストに基づくグラフ自己教師学習においてスペクトル手がかりは問題か?
- Authors: Xiangru Jian, Xinjian Zhao, Wei Pang, Chaolong Ying, Yimu Wang, Yaoyao Xu, Tianshu Yu,
- Abstract要約: スペクトル領域に関する一見矛盾する仮定やアプローチに基づく手法は、学習性能の顕著な向上を示している。
本研究は, スペクトル特性と現代の方法論の学習結果との関係について, 徹底的な研究を行う。
これらの単純で効果的な戦略が常に優れた性能をもたらすことを示す証拠が提示される。
- 参考スコア（独自算出の注目度）: 10.803503272887173
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The recent surge in contrast-based graph self-supervised learning has prominently featured an intensified exploration of spectral cues. However, an intriguing paradox emerges, as methods grounded in seemingly conflicting assumptions or heuristic approaches regarding the spectral domain demonstrate notable enhancements in learning performance. This paradox prompts a critical inquiry into the genuine contribution of spectral information to contrast-based graph self-supervised learning. This study undertakes an extensive investigation into this inquiry, conducting a thorough study of the relationship between spectral characteristics and the learning outcomes of contemporary methodologies. Based on this analysis, we claim that the effectiveness and significance of spectral information need to be questioned. Instead, we revisit simple edge perturbation: random edge dropping designed for node-level self-supervised learning and random edge adding intended for graph-level self-supervised learning. Compelling evidence is presented that these simple yet effective strategies consistently yield superior performance while demanding significantly fewer computational resources compared to all prior spectral augmentation methods. The proposed insights represent a significant leap forward in the field, potentially reshaping the understanding and implementation of graph self-supervised learning.
- Abstract（参考訳）: コントラストに基づくグラフ自己教師学習の最近の増加は、スペクトルの探究の強化を特徴としている。
しかし、スペクトル領域に関する一見矛盾する仮定やヒューリスティックなアプローチに基づく手法が、学習性能の顕著な向上を示すため、興味深いパラドックスが出現する。
このパラドックスは、コントラストベースのグラフ自己教師学習へのスペクトル情報の真の寄与について、批判的な調査を促す。
本研究は, スペクトル特性と現代の方法論の学習結果との関係について, 徹底的な調査を行っている。
この分析に基づいて,スペクトル情報の有効性と意義を問う必要がある。
ノードレベルの自己教師付き学習のために設計されたランダムエッジドロップと、グラフレベルの自己教師型学習を目的としたランダムエッジの追加。
これらの単純で効果的な戦略は、従来のスペクトル増強法に比べて計算資源をはるかに少なく要求しながら、常に優れた性能を得ることを示す証拠が提示されている。
提案した洞察は、グラフ自己教師型学習の理解と実装を再構築する可能性があり、この分野における大きな飛躍を示している。
関連論文リスト
- AS-GCL: Asymmetric Spectral Augmentation on Graph Contrastive Learning [25.07818336162072]
グラフ・コントラシブ・ラーニング(GCL)は,グラフ構造化データの自己教師型学習における最前線として登場した。
グラフのコントラスト学習に非対称スペクトル拡張を取り入れたAS-GCLという新しいパラダイムを提案する。
提案手法は各コンポーネントに大幅な拡張をもたらす。
論文 参考訳（メタデータ） (2025-02-19T08:22:57Z) - Consistency of augmentation graph and network approximability in contrastive learning [3.053989095162017]
拡張グラフ Laplacian の点次およびスペクトルの整合性について解析する。
ラプラシアンは自然データ多様体上の重み付きラプラス・ベルトラミ作用素に収束することを示す。
これらの整合性は、グラフラプラシアスペクトルが多様体幾何学を効果的に捉えることを保証する。
論文 参考訳（メタデータ） (2025-02-06T18:55:51Z) - Through the Dual-Prism: A Spectral Perspective on Graph Data Augmentation for Graph Classification [67.35058947477631]
本稿では,DP-Noise や DP-Mask などの拡張グラフを多角化しながら,重要なグラフ特性を維持できるDual-Prism (DP) 拡張手法を提案する。
大規模な実験により、我々のアプローチの効率が検証され、グラフデータ拡張のための新しい有望な方向が提供される。
論文 参考訳（メタデータ） (2024-01-18T12:58:53Z) - Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。
近年の研究では、グラフ表現学習における事前学習の有用性が示されている。
本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
論文 参考訳（メタデータ） (2023-02-06T16:26:29Z) - Spectral Feature Augmentation for Graph Contrastive Learning and Beyond [64.78221638149276]
グラフ(および画像)におけるコントラスト学習のための新しいスペクトル特徴論法を提案する。
各データビューに対して,特徴写像毎の低ランク近似を推定し,その近似を地図から抽出して補数を求める。
これは、2つの価値ある副産物(単に1つまたは2つのイテレーション)を楽しむ非標準パワーレジームである、ここで提案された不完全パワーイテレーションによって達成される。
グラフ/画像データセットの実験では、スペクトルフィーチャの増大がベースラインを上回ります。
論文 参考訳（メタデータ） (2022-12-02T08:48:11Z) - Spectral Augmentation for Self-Supervised Learning on Graphs [43.19199994575821]
グラフコントラスト学習(GCL)は、インスタンス識別を通じて表現を学習することを目的としている。
これは、小さな摂動に対して堅牢な不変パターンを反映するためにグラフ拡張に依存する。
最近の研究は、空間領域における一様ランダムなトポロジー拡張を主に実施している。
スペクトル変化を最大化することによりトポロジ拡張を導出するスペクトル拡張を開発する。
論文 参考訳（メタデータ） (2022-10-02T22:20:07Z) - Robust Causal Graph Representation Learning against Confounding Effects [21.380907101361643]
本稿では,ロバスト因果グラフ表現学習(RCGRL)を提案する。
RCGRLは、無条件のモーメント制約の下でインストゥルメンタル変数を生成するアクティブなアプローチを導入し、グラフ表現学習モデルにより、共同設立者を排除している。
論文 参考訳（メタデータ） (2022-08-18T01:31:25Z) - Latent Augmentation For Better Graph Self-Supervised Learning [20.082614919182692]
我々は、潜在的な拡張と強力なデコーダを備えた予測モデルは、対照的なモデルよりも同等またはそれ以上の表現力を達成することができると論じている。
Wiener Graph Deconvolutional Networkと呼ばれる新しいグラフデコーダは、拡張潜在表現から情報再構成を行うように設計されている。
論文 参考訳（メタデータ） (2022-06-26T17:41:59Z) - Bayesian Graph Contrastive Learning [55.36652660268726]
本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
論文 参考訳（メタデータ） (2021-12-15T01:45:32Z) - Iterative Graph Self-Distillation [161.04351580382078]
我々は、IGSD(Iterative Graph Self-Distillation)と呼ばれる新しい教師なしグラフ学習パラダイムを提案する。
IGSDは、グラフ拡張による教師/学生の蒸留を反復的に行う。
我々は,教師なしと半教師なしの両方の設定において,さまざまなグラフデータセットに対して,有意かつ一貫したパフォーマンス向上を実現していることを示す。
論文 参考訳（メタデータ） (2020-10-23T18:37:06Z) - Spectral Graph Attention Network with Fast Eigen-approximation [103.93113062682633]
スペクトルグラフ注意ネットワーク(SpGAT)は、重み付きフィルタとグラフウェーブレットベースに関する異なる周波数成分の表現を学習する。
固有分解による計算コストを削減するために,高速近似変種SpGAT-Chebyを提案する。
半教師付きノード分類タスクにおけるSpGATとSpGAT-Chebyの性能を徹底的に評価する。
論文 参考訳（メタデータ） (2020-03-16T21:49:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。