論文の概要: There is more to graphs than meets the eye: Learning universal features with self-supervision

• arxiv url: http://arxiv.org/abs/2305.19871v2
• Date: Mon, 29 Jul 2024 18:48:45 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-31 22:59:28.181236
• Title: There is more to graphs than meets the eye: Learning universal features with self-supervision
• Title（参考訳）: 目を見渡すよりもグラフの方が多い:自己超越で普遍的な特徴を学ぶ
• Authors: Laya Das, Sai Munikoti, Nrushad Joshi, Mahantesh Halappanavar,
• Abstract要約: 本稿では,複数のグラフに一般化可能な自己スーパービジョンによる特徴学習の課題について検討する。 提案手法では,(1)下流ノード分類の性能向上,(2)同じ家系の未確認グラフに再利用可能な学習機能,(3)より効率的なトレーニング,(4)コンパクトで一般化可能なモデルを提案する。
• 参考スコア（独自算出の注目度）: 2.882036130110936
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the problem of learning features through self-supervision that are generalisable to multiple graphs. State-of-the-art graph self-supervision restricts training to only one graph, resulting in graph-specific models that are incompatible with different but related graphs. We hypothesize that training with more than one graph that belong to the same family can improve the quality of the learnt representations. However, learning universal features from disparate node/edge features in different graphs is non-trivial. To address this challenge, we first homogenise the disparate features with graph-specific encoders that transform the features into a common space. A universal representation learning module then learns generalisable features on this common space. We show that compared to traditional self-supervision with one graph, our approach results in (1) better performance on downstream node classification, (2) learning features that can be re-used for unseen graphs of the same family, (3) more efficient training and (4) compact yet generalisable models. We also show ability of the proposed framework to deliver these benefits for relatively larger graphs. In this paper, we present a principled way to design foundation graph models that learn from more than one graph in an end-to-end manner, while bridging the gap between self-supervised and supervised performance.
• Abstract（参考訳）: 本稿では,複数のグラフに一般化可能な自己スーパービジョンによる特徴学習の課題について検討する。 State-of-the-art graph self-supervisionはトレーニングを1つのグラフに制限し、結果としてグラフ固有のモデルは異なるが関連するグラフと互換性がない。 我々は、同じ家族に属する複数のグラフによるトレーニングは、学習した表現の質を向上させることができると仮定する。 しかし、異なるグラフで異なるノード/エッジ機能から普遍的な特徴を学ぶことは簡単ではない。 この課題に対処するために、まず、異なる特徴をグラフ固有のエンコーダで均質化し、特徴を共通の空間に変換する。 普遍表現学習モジュールは、この共通空間上の一般化可能な特徴を学習する。 その結果,(1)下流ノード分類の性能向上,(2)同じ家系の未確認グラフに再利用可能な学習機能,(3)より効率的な学習,(4)コンパクトで一般化可能なモデルが得られた。 また、提案したフレームワークが比較的大きなグラフに対してこれらの利点を提供できることを示す。 本稿では,複数のグラフからエンド・ツー・エンドの方法で学習する基礎グラフモデルを設計する上で,自己監督と教師付きパフォーマンスのギャップを埋める方法を提案する。

関連論文リスト

• Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
  コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。 近年の研究では、グラフ表現学習における事前学習の有用性が示されている。 本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
  論文  参考訳（メタデータ） (2023-02-06T16:26:29Z)
• CGMN: A Contrastive Graph Matching Network for Self-Supervised Graph Similarity Learning [65.1042892570989]
  自己教師付きグラフ類似性学習のためのコントラストグラフマッチングネットワーク(CGMN)を提案する。 我々は,効率的なノード表現学習のために,クロスビューインタラクションとクロスグラフインタラクションという2つの戦略を用いる。 我々はノード表現をグラフ類似性計算のためのプール演算によりグラフレベル表現に変換する。
  論文  参考訳（メタデータ） (2022-05-30T13:20:26Z)
• Graph Self-supervised Learning with Accurate Discrepancy Learning [64.69095775258164]
  離散性に基づく自己監督型LeArning(D-SLA)と呼ばれる原図と摂動グラフの正確な相違を学習することを目的としたフレームワークを提案する。 本稿では,分子特性予測,タンパク質機能予測,リンク予測タスクなど,グラフ関連下流タスクにおける本手法の有効性を検証する。
  論文  参考訳（メタデータ） (2022-02-07T08:04:59Z)
• Edge but not Least: Cross-View Graph Pooling [76.71497833616024]
  本稿では,重要なグラフ構造情報を活用するために,クロスビューグラフプーリング(Co-Pooling)手法を提案する。 クロスビュー相互作用、エッジビュープーリング、ノードビュープーリングにより、相互にシームレスに強化され、より情報的なグラフレベルの表現が学習される。
  論文  参考訳（メタデータ） (2021-09-24T08:01:23Z)
• Generating a Doppelganger Graph: Resembling but Distinct [5.618335078130568]
  本論文では,与えられたグラフ特性に類似したドッペルガンガーグラフを生成する手法を提案する。 このアプローチは、グラフ表現学習、生成的敵ネットワーク、およびグラフ実現アルゴリズムのオーケストレーションである。
  論文  参考訳（メタデータ） (2021-01-23T22:08:27Z)
• Multilevel Graph Matching Networks for Deep Graph Similarity Learning [79.3213351477689]
  グラフ構造オブジェクト間のグラフ類似性を計算するためのマルチレベルグラフマッチングネットワーク(MGMN)フレームワークを提案する。 標準ベンチマークデータセットの欠如を補うため、グラフグラフ分類とグラフグラフ回帰タスクの両方のためのデータセットセットを作成し、収集した。 総合的な実験により、MGMNはグラフグラフ分類とグラフグラフ回帰タスクの両方において、最先端のベースラインモデルより一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2020-07-08T19:48:19Z)
• GraphOpt: Learning Optimization Models of Graph Formation [72.75384705298303]
  本稿では,グラフ構造形成の暗黙的モデルを学ぶエンドツーエンドフレームワークを提案し,その基盤となる最適化機構を明らかにする。 学習した目的は、観測されたグラフプロパティの説明として機能し、ドメイン内の異なるグラフを渡すために自分自身を貸すことができる。 GraphOptは、グラフ内のリンク生成をシーケンシャルな意思決定プロセスとして、最大エントロピー逆強化学習アルゴリズムを用いて解決する。
  論文  参考訳（メタデータ） (2020-07-07T16:51:39Z)
• Machine Learning on Graphs: A Model and Comprehensive Taxonomy [22.73365477040205]
  グラフニューラルネットワーク、ネットワーク埋め込み、グラフ正規化モデルの間のギャップを埋める。 具体的には、グラフ上の半教師付き学習のための一般的なアルゴリズムを一般化するグラフデコーダモデル( GraphEDM)を提案する。
  論文  参考訳（メタデータ） (2020-05-07T18:00:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。