論文の概要: Unifying Graph Contrastive Learning via Graph Message Augmentation

• arxiv url: http://arxiv.org/abs/2401.03638v1
• Date: Mon, 8 Jan 2024 02:49:16 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-09 17:41:10.984828
• Title: Unifying Graph Contrastive Learning via Graph Message Augmentation
• Title（参考訳）: グラフメッセージ拡張によるグラフコントラスト学習の統一
• Authors: Ziyan Zhang, Bo Jiang, Jin Tang and Bin Luo
• Abstract要約: グラフデータ拡張(GDA)は、グラフの対照的な学習において重要な問題である。 我々の知る限りでは、異なる種類のグラフデータに適した、普遍的で効果的な拡張子をいまだに欠いている。 既存の多くのGDAを再構成する汎用的なスキームであるグラフメッセージ拡張(GMA)を提案する。 そこで我々は,グラフコントラスト学習に属性誘導型ユニバーサルGMAを用いたグラフコントラスト学習(Graph Message Contrastive Learning, GMCL)を提案する。
• 参考スコア（独自算出の注目度）: 22.66138581419178
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph contrastive learning is usually performed by first conducting Graph Data Augmentation (GDA) and then employing a contrastive learning pipeline to train GNNs. As we know that GDA is an important issue for graph contrastive learning. Various GDAs have been developed recently which mainly involve dropping or perturbing edges, nodes, node attributes and edge attributes. However, to our knowledge, it still lacks a universal and effective augmentor that is suitable for different types of graph data. To address this issue, in this paper, we first introduce the graph message representation of graph data. Based on it, we then propose a novel Graph Message Augmentation (GMA), a universal scheme for reformulating many existing GDAs. The proposed unified GMA not only gives a new perspective to understand many existing GDAs but also provides a universal and more effective graph data augmentation for graph self-supervised learning tasks. Moreover, GMA introduces an easy way to implement the mixup augmentor which is natural for images but usually challengeable for graphs. Based on the proposed GMA, we then propose a unified graph contrastive learning, termed Graph Message Contrastive Learning (GMCL), that employs attribution-guided universal GMA for graph contrastive learning. Experiments on many graph learning tasks demonstrate the effectiveness and benefits of the proposed GMA and GMCL approaches.
• Abstract（参考訳）: グラフコントラスト学習は通常、まずグラフデータ拡張(GDA)を実行し、次にGNNのトレーニングにコントラスト学習パイプラインを使用する。 GDAはグラフの対照的な学習にとって重要な問題です。 近年, エッジ, ノード, ノード属性, エッジ属性のドロップや摂動など, 様々なGDAが開発されている。 しかし、我々の知る限りでは、異なる種類のグラフデータに適した、普遍的で効果的な拡張子がない。 本稿では,まず,グラフデータのグラフメッセージ表現について述べる。 そこで我々は,既存の多くのGDAを統一する汎用的スキームであるグラフメッセージ拡張(GMA)を提案する。 提案した統合GMAは、既存の多くのGDAを理解するための新たな視点を提供するだけでなく、グラフ自己教師型学習タスクのための普遍的で効果的なグラフデータ拡張を提供する。 さらに、GMAは、画像には自然だが、グラフには難題であるmixup Augmentorを実装する簡単な方法を導入している。 提案するgmaに基づいて,グラフコントラスト学習のための帰属誘導型ユニバーサルgmaを用いた統一グラフコントラスト学習,いわゆるグラフメッセージコントラスト学習(gmcl)を提案する。 多くのグラフ学習タスクの実験は、提案したGMAおよびGMCLアプローチの有効性と利点を示している。

関連論文リスト

• A Unified Graph Selective Prompt Learning for Graph Neural Networks [20.595782116049428]
  Graph Prompt Feature(GPF)は、Graph Neural Networks(GNN)のトレーニング済みモデルを適応することに成功した。 GNNファインチューニングのための新しいグラフ選択型プロンプト特徴学習(GSPF)を提案する。
  論文  参考訳（メタデータ） (2024-06-15T04:36:40Z)
• G-Retriever: Retrieval-Augmented Generation for Textual Graph Understanding and Question Answering [61.93058781222079]
  現実のテキストグラフを対象とするフレキシブルな問合せフレームワークを開発した。 一般のテキストグラフに対する最初の検索拡張生成(RAG)手法を提案する。 G-Retrieverは、このタスクをSteiner Tree最適化問題として定式化し、グラフ上でRAGを実行する。
  論文  参考訳（メタデータ） (2024-02-12T13:13:04Z)
• GSINA: Improving Subgraph Extraction for Graph Invariant Learning via Graph Sinkhorn Attention [52.67633391931959]
  グラフ不変学習(GIL)は,グラフデータとそのラベル間の不変性を発見するための効果的な手法である。 グラフシンクホーン注意機構(GSINA)を提案する。 GSINAは、制御可能な空間性と柔らかさを持つ有意義で微分可能な不変部分グラフを得ることができる。
  論文  参考訳（メタデータ） (2024-02-11T12:57:16Z)
• Graph Domain Adaptation: Challenges, Progress and Prospects [61.9048172631524]
  本稿では,グラフ間の効果的な知識伝達パラダイムとしてグラフ領域適応を提案する。 GDAは、ソースグラフとしてタスク関連のグラフを多数導入し、ソースグラフから学習した知識をターゲットグラフに適応させる。 研究状況と課題について概説し、分類学を提案し、代表作の詳細を紹介し、今後の展望について論じる。
  論文  参考訳（メタデータ） (2024-02-01T02:44:32Z)
• MGNet: Learning Correspondences via Multiple Graphs [78.0117352211091]
  学習対応は、不均一な対応分布と低い不整合率で設定された初期対応から正しい対応を見つけることを目的としている。 最近の進歩は、通常、グラフニューラルネットワーク(GNN)を使用して単一のタイプのグラフを構築したり、グローバルなグラフに局所グラフをスタックしてタスクを完了させる。 本稿では,複数の補完グラフを効果的に組み合わせるためのMGNetを提案する。
  論文  参考訳（メタデータ） (2024-01-10T07:58:44Z)
• Train Your Own GNN Teacher: Graph-Aware Distillation on Textual Graphs [37.48313839125563]
  グラフのない高速推論のためのLMにグラフ構造をエンコードするグラフ認識蒸留フレームワーク(GRAD)を開発した。 従来の知識蒸留とは異なり、GRADはGNNの教師とグラフのない学生を、共有LMを介してグラフのノード上で共同で最適化する。 トランスダクティブおよびインダクティブの両方の設定における8つのノード分類ベンチマークの実験は、テキストグラフの既存の蒸留手法よりもGRADの方が優れていることを示している。
  論文  参考訳（メタデータ） (2023-04-20T22:34:20Z)
• Graph Contrastive Learning with Personalized Augmentation [17.714437631216516]
  グラフの教師なし表現を学習するための有効なツールとして,グラフコントラスト学習(GCL)が登場した。 我々は、textitPersonalized textitAugmentation (GPA) を用いたtextitGraph コントラスト学習と呼ばれる原則付きフレームワークを提案する。 GPAは、学習可能な拡張セレクタを介して、そのトポロジとノード属性に基づいて、各グラフの調整された拡張戦略を推論する。
  論文  参考訳（メタデータ） (2022-09-14T11:37:48Z)
• GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
  グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。 本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
  論文  参考訳（メタデータ） (2022-03-24T02:58:36Z)
• Data Augmentation for Deep Graph Learning: A Survey [66.04015540536027]
  まず,グラフデータ拡張のための分類法を提案し,その拡張情報モダリティに基づいて関連研究を分類し,構造化されたレビューを提供する。 DGLにおける2つの課題(すなわち、最適グラフ学習と低リソースグラフ学習)に焦点を当て、グラフデータ拡張に基づく既存の学習パラダイムについて議論し、レビューする。
  論文  参考訳（メタデータ） (2022-02-16T18:30:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。