論文の概要: Graph Contrastive Learning Meets Graph Meta Learning: A Unified Method for Few-shot Node Tasks

• arxiv url: http://arxiv.org/abs/2309.10376v1
• Date: Tue, 19 Sep 2023 07:24:10 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-20 15:55:31.474689
• Title: Graph Contrastive Learning Meets Graph Meta Learning: A Unified Method for Few-shot Node Tasks
• Title（参考訳）: Graph Contrastive Learningがグラフメタ学習に到達 - スナップショットノードタスクの統一手法
• Authors: Hao Liu, Jiarui Feng, Lecheng Kong, Dacheng Tao, Yixin Chen, Muhan Zhang
• Abstract要約: Contrastive Few-Shot Node Classification (COLA)を紹介する。 COLAはグラフ拡張を使用して意味的に類似したノードを識別し、ラベル情報を必要としないメタタスクの構築を可能にする。 広範な実験を通じて、我々は設計における各コンポーネントの本質を検証し、COLAが全てのタスクにおいて新しい最先端を達成することを実証する。
• 参考スコア（独自算出の注目度）: 68.60884768323739
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph Neural Networks (GNNs) have become popular in Graph Representation Learning (GRL). One fundamental application is few-shot node classification. Most existing methods follow the meta learning paradigm, showing the ability of fast generalization to few-shot tasks. However, recent works indicate that graph contrastive learning combined with fine-tuning can significantly outperform meta learning methods. Despite the empirical success, there is limited understanding of the reasons behind it. In our study, we first identify two crucial advantages of contrastive learning compared to meta learning, including (1) the comprehensive utilization of graph nodes and (2) the power of graph augmentations. To integrate the strength of both contrastive learning and meta learning on the few-shot node classification tasks, we introduce a new paradigm: Contrastive Few-Shot Node Classification (COLA). Specifically, COLA employs graph augmentations to identify semantically similar nodes, which enables the construction of meta-tasks without the need for label information. Therefore, COLA can utilize all nodes to construct meta-tasks, further reducing the risk of overfitting. Through extensive experiments, we validate the essentiality of each component in our design and demonstrate that COLA achieves new state-of-the-art on all tasks.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、グラフ表現学習(GRL)で人気がある。 基本的な用途は、ノードの分類である。 既存の手法のほとんどはメタ学習パラダイムに従っており、わずかなタスクに素早く一般化する能力を示している。 しかし,近年の研究では,グラフコントラスト学習と微調整を組み合わせることで,メタ学習法を著しく上回ることが示されている。 経験的な成功にもかかわらず、その理由の理解は限られている。 本研究では,まず,(1)グラフノードの包括的利用,(2)グラフ拡張のパワーなど,メタ学習と比較してコントラスト学習の2つの重要な利点を明らかにする。 ノード分類タスクにおいて,コントラスト学習とメタ学習の両方の強みを統合するために,新しいパラダイムであるコントラスト・マイトショットノード分類(cola)を導入する。 特に、COLAはグラフ拡張を用いて意味的に類似したノードを識別し、ラベル情報を必要としないメタタスクの構築を可能にする。 そのため、COLAはすべてのノードを使ってメタタスクを構築することができ、オーバーフィッティングのリスクを低減できる。 広範な実験を通じて、我々は設計における各コンポーネントの本質を検証し、COLAが全てのタスクにおいて新しい最先端を達成することを示す。

関連論文リスト

• Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training [22.473322546354414]
  そこで我々はMeta-GPS++と呼ばれる少数ショットノード分類のための新しいフレームワークを提案する。 まず,同好および異好のグラフ上での識別ノード表現を効率よく学習する手法を採用する。 また、ラベルのないノードから貴重な情報を抽出するために自己学習を適用する。
  論文  参考訳（メタデータ） (2024-07-20T03:05:12Z)
• SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
  テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。 まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。 次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
  論文  参考訳（メタデータ） (2023-08-03T07:00:04Z)
• Task-Equivariant Graph Few-shot Learning [7.78018583713337]
  グラフニューラルネットワーク(GNN)は、少数ショットノード分類として知られる、限られた数のラベル付きノードでノードを分類できることが重要である。 本稿では,新しいアプローチであるタスク・平等グラフ数ショット学習(TEG)フレームワークを提案する。 我々のTEGフレームワークは、限られた数のトレーニングメタタスクを使用して、移行可能なタスク適応戦略を学習することを可能にする。
  論文  参考訳（メタデータ） (2023-05-30T05:47:28Z)
• Localized Contrastive Learning on Graphs [110.54606263711385]
  局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。 その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
  論文  参考訳（メタデータ） (2022-12-08T23:36:00Z)
• Graph Few-shot Learning with Task-specific Structures [38.52226241144403]
  既存のグラフ数ショット学習手法は一般的にグラフニューラルネットワーク(GNN)を利用する メタタスクごとにタスク固有の構造を学習する新しいフレームワークを提案する。 このようにして、各メタタスクに適したタスク固有の構造を持つノード表現を学習することができる。
  論文  参考訳（メタデータ） (2022-10-21T17:40:21Z)
• ARIEL: Adversarial Graph Contrastive Learning [51.14695794459399]
  ARIELは、ノードレベルとグラフレベルの両方の分類タスクにおいて、現在のグラフコントラスト学習法よりも一貫して優れている。 ARIELは敵の攻撃に対してより堅牢である。
  論文  参考訳（メタデータ） (2022-08-15T01:24:42Z)
• Weakly-supervised Graph Meta-learning for Few-shot Node Classification [53.36828125138149]
  新しいグラフメタ学習フレームワーク - Graph Hallucination Networks (Meta-GHN) を提案する。 新たなロバストネス強化エピソードトレーニングに基づいて、Meta-GHNは、弱いラベル付きデータからクリーンノード表現を幻覚させるメタ学習を行う。 大規模な実験は、既存のグラフメタ学習研究よりもMeta-GHNの方が優れていることを示す。
  論文  参考訳（メタデータ） (2021-06-12T22:22:10Z)
• Self-supervised Graph Learning for Recommendation [69.98671289138694]
  ユーザ・イテムグラフを用いた自己教師型学習を推奨する。 補助的自己監督タスクは、自己識別によるノード表現学習を強化する。 3つのベンチマークデータセットに関する実証的研究は、SGLの有効性を示す。
  論文  参考訳（メタデータ） (2020-10-21T06:35:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。