論文の概要: Self-supervised Learning and Graph Classification under Heterophily

• arxiv url: http://arxiv.org/abs/2306.08469v1
• Date: Wed, 14 Jun 2023 12:32:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-16 19:09:25.506051
• Title: Self-supervised Learning and Graph Classification under Heterophily
• Title（参考訳）: ヘテロフィア下での自己教師あり学習とグラフ分類
• Authors: Yilin Ding, Zhen Liu, Hao Hao
• Abstract要約: 我々は,Metric(PGM)に基づく,事前学習型グラフニューラルネットワーク(GNN)のための新しい自己教師型戦略を提案する。 我々の戦略は、分子特性予測とタンパク質機能予測のための最先端性能を実現する。
• 参考スコア（独自算出の注目度）: 4.358149865548289
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-supervised learning has shown its promising capability in graph representation learning in recent work. Most existing pre-training strategies usually choose the popular Graph neural networks (GNNs), which can be seen as a special form of low-pass filter, fail to effectively capture heterophily. In this paper, we first present an experimental investigation exploring the performance of low-pass and high-pass filters in heterophily graph classification, where the results clearly show that high-frequency signal is important for learning heterophily graph representation. On the other hand, it is still unclear how to effectively capture the structural pattern of graphs and how to measure the capability of the self-supervised pre-training strategy in capturing graph structure. To address the problem, we first design a quantitative metric to Measure Graph Structure (MGS), which analyzes correlation between structural similarity and embedding similarity of graph pairs. Then, to enhance the graph structural information captured by self-supervised learning, we propose a novel self-supervised strategy for Pre-training GNNs based on the Metric (PGM). Extensive experiments validate our pre-training strategy achieves state-of-the-art performance for molecular property prediction and protein function prediction. In addition, we find choosing the suitable filter sometimes may be better than designing good pre-training strategies for heterophily graph classification.
• Abstract（参考訳）: 自己教師型学習は近年,グラフ表現学習において有望な能力を示している。 既存のほとんどの事前学習戦略は、通常、特殊なローパスフィルタと見なすことのできる一般的なグラフニューラルネットワーク(gnns)を選択するが、ヘテロフィリを効果的に捉えることができない。 本稿では,ヘテロフィリグラフの分類において,低域通過フィルタと高域通過フィルタの性能を実験的に検討し,ヘテロフィリグラフ表現の学習において高周波信号が重要であることを示す。 一方で,グラフの構造パターンを効果的に捉える方法や,自己教師付き事前学習戦略がグラフ構造をキャプチャする上での能力を測定する方法はまだ不明である。 そこで我々はまず,グラフの類似度とグラフペアの埋め込み類似度との相関関係を解析し,グラフ構造を測定する定量的な尺度を設計する。 次に,自己教師付き学習で取得したグラフ構造情報を強化するために,計量(pgm)に基づく事前学習のための新しい自己教師付き戦略を提案する。 分子特性予測とタンパク質機能予測のために,我々の事前学習戦略を検証した。 さらに,ヘテロフィリグラフ分類のための適切な事前学習戦略を設計するよりも,適切なフィルタを選択する方が良い場合もある。

関連論文リスト

• GraphGLOW: Universal and Generalizable Structure Learning for Graph Neural Networks [72.01829954658889]
  本稿では,この新たな問題設定の数学的定義を紹介する。 一つのグラフ共有構造学習者と複数のグラフ固有GNNを協調する一般的なフレームワークを考案する。 十分に訓練された構造学習者は、微調整なしで、目に見えない対象グラフの適応的な構造を直接生成することができる。
  論文  参考訳（メタデータ） (2023-06-20T03:33:22Z)
• Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
  コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。 近年の研究では、グラフ表現学習における事前学習の有用性が示されている。 本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
  論文  参考訳（メタデータ） (2023-02-06T16:26:29Z)
• Semantic Graph Neural Network with Multi-measure Learning for Semi-supervised Classification [5.000404730573809]
  近年,グラフニューラルネットワーク(GNN)が注目されている。 近年の研究では、GNNはグラフの複雑な基盤構造に弱いことが示されている。 半教師付き分類のための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-04T06:17:11Z)
• Similarity-aware Positive Instance Sampling for Graph Contrastive Pre-training [82.68805025636165]
  トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。 私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。 さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
  論文  参考訳（メタデータ） (2022-06-23T20:12:51Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
  本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。 具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
  論文  参考訳（メタデータ） (2022-01-17T11:57:29Z)
• Hierarchical Adaptive Pooling by Capturing High-order Dependency for Graph Representation Learning [18.423192209359158]
  グラフニューラルネットワーク(GNN)はノードレベルのグラフ表現学習タスクでグラフ構造化データを扱うのに十分成熟していることが証明されている。 本稿では,グラフ構造に適応する階層型グラフレベルの表現学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-13T06:22:24Z)
• Structure-Enhanced Meta-Learning For Few-Shot Graph Classification [53.54066611743269]
  本研究では,数点グラフ分類の解法のためのメトリベースメタラーニングの可能性を検討する。 SMFGINというGINの実装は、ChemblとTRIANGLESの2つのデータセットでテストされている。
  論文  参考訳（メタデータ） (2021-03-05T09:03:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。