Fugu-MT 論文翻訳(概要): Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training

論文の概要: Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training

arxiv url: http://arxiv.org/abs/2407.14732v1
Date: Sat, 20 Jul 2024 03:05:12 GMT
ステータス: 処理完了
システム内更新日: 2024-07-23 21:14:02.685580
Title: Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training
Title（参考訳）: Meta-GPS++: コントラスト学習と自己学習によるグラフメタ学習の強化
Authors: Yonghao Liu, Mengyu Li, Ximing Li, Lan Huang, Fausto Giunchiglia, Yanchun Liang, Xiaoyue Feng, Renchu Guan,
Abstract要約: そこで我々はMeta-GPS++と呼ばれる少数ショットノード分類のための新しいフレームワークを提案する。まず,同好および異好のグラフ上での識別ノード表現を効率よく学習する手法を採用する。また、ラベルのないノードから貴重な情報を抽出するために自己学習を適用する。
参考スコア（独自算出の注目度）: 22.473322546354414
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Node classification is an essential problem in graph learning. However, many models typically obtain unsatisfactory performance when applied to few-shot scenarios. Some studies have attempted to combine meta-learning with graph neural networks to solve few-shot node classification on graphs. Despite their promising performance, some limitations remain. First, they employ the node encoding mechanism of homophilic graphs to learn node embeddings, even in heterophilic graphs. Second, existing models based on meta-learning ignore the interference of randomness in the learning process. Third, they are trained using only limited labeled nodes within the specific task, without explicitly utilizing numerous unlabeled nodes. Finally, they treat almost all sampled tasks equally without customizing them for their uniqueness. To address these issues, we propose a novel framework for few-shot node classification called Meta-GPS++. Specifically, we first adopt an efficient method to learn discriminative node representations on homophilic and heterophilic graphs. Then, we leverage a prototype-based approach to initialize parameters and contrastive learning for regularizing the distribution of node embeddings. Moreover, we apply self-training to extract valuable information from unlabeled nodes. Additionally, we adopt S$^2$ (scaling & shifting) transformation to learn transferable knowledge from diverse tasks. The results on real-world datasets show the superiority of Meta-GPS++. Our code is available here.
Abstract（参考訳）: ノード分類はグラフ学習において不可欠な問題である。しかし、多くのモデルは、通常、数ショットのシナリオに適用すると不満足なパフォーマンスを得る。メタラーニングとグラフニューラルネットワークを組み合わせて、グラフ上の少数ショットノード分類を解く研究もある。期待された性能にもかかわらず、いくつかの制限が残っている。まず、同好グラフのノード符号化機構を用いて、異好グラフにおいてもノード埋め込みを学習する。第2に,メタラーニングに基づく既存モデルは,学習過程におけるランダム性の干渉を無視する。第3に、特定のタスク内で制限されたラベル付きノードのみを使用して、多数のラベル付きノードを明示的に利用せずにトレーニングされる。最後に、ほとんどすべてのサンプルタスクを、独自性のためにカスタマイズすることなく、均等に扱う。これらの問題に対処するため,Meta-GPS++と呼ばれる少数ショットノード分類のための新しいフレームワークを提案する。具体的には,同好および異好のグラフ上での識別ノード表現を効率よく学習する手法を最初に採用する。そこで我々は,ノード埋め込みの分布を正規化するために,プロトタイプベースの手法を用いてパラメータを初期化し,対照的な学習を行う。さらに、ラベルのないノードから貴重な情報を抽出するために自己学習を適用する。さらに、様々なタスクから伝達可能な知識を学ぶために、S$^2$(スケーリングとシフト)変換を採用する。実世界のデータセットの結果はMeta-GPS++の優位性を示している。私たちのコードはここにある。

関連論文リスト

Non-Homophilic Graph Pre-Training and Prompt Learning [11.996173149569627]
本稿では,好ましくないグラフに対する事前学習と迅速な学習の枠組みであるProNoGを提案する。まず、既存のグラフ事前学習手法を分析し、事前学習タスクの選択に関する理論的知見を提供する。第2に,各ノードが特異な非ホモフィル性を示すことを認識し,下流タスクにおけるノード固有のパターンを特徴付ける条件付きネットワークを提案する。
論文参考訳（メタデータ） (2024-08-22T17:57:31Z)
The Heterophilic Snowflake Hypothesis: Training and Empowering GNNs for Heterophilic Graphs [59.03660013787925]
ヘテロフィリー・スノーフレーク仮説を導入し、ヘテロ親和性グラフの研究をガイドし、促進するための効果的なソリューションを提供する。観察の結果,我々のフレームワークは多種多様なタスクのための多目的演算子として機能することがわかった。さまざまなGNNフレームワークに統合することができ、パフォーマンスを詳細に向上し、最適なネットワーク深さを選択するための説明可能なアプローチを提供する。
論文参考訳（メタデータ） (2024-06-18T12:16:00Z)
Graph Contrastive Learning Meets Graph Meta Learning: A Unified Method for Few-shot Node Tasks [68.60884768323739]
Contrastive Few-Shot Node Classification (COLA)を紹介する。 COLAはグラフ拡張を使用して意味的に類似したノードを識別し、ラベル情報を必要としないメタタスクの構築を可能にする。広範な実験を通じて、我々は設計における各コンポーネントの本質を検証し、COLAが全てのタスクにおいて新しい最先端を達成することを実証する。
論文参考訳（メタデータ） (2023-09-19T07:24:10Z)
Half-Hop: A graph upsampling approach for slowing down message passing [31.26080679115766]
メッセージパッシングニューラルネットワークにおける学習を改善するためのフレームワークを提案する。我々のアプローチは基本的に、各エッジに"スローノード"を追加することで、元のグラフのエッジをサンプリングする。提案手法は入力グラフのみを修正し,既存のモデルでプラグイン・アンド・プレイしやすくする。
論文参考訳（メタデータ） (2023-08-17T22:24:15Z)
NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文参考訳（メタデータ） (2023-06-14T09:21:15Z)
SGAT: Simplicial Graph Attention Network [38.7842803074593]
不均一グラフは複数のノード型とエッジ型を持ち、同質グラフよりも意味的にリッチである。不均一グラフに対する多くのグラフニューラルネットワークアプローチは、ノード間のマルチホップ相互作用をキャプチャするためにメタパスを使用する。 SGAT(Simplicial Graph Attention Network)は、このような高次相互作用を表現するための単純な複雑なアプローチである。
論文参考訳（メタデータ） (2022-07-24T15:20:41Z)
Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。 GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文参考訳（メタデータ） (2022-03-03T09:53:53Z)
Graph Neural Network with Curriculum Learning for Imbalanced Node Classification [21.085314408929058]
グラフニューラルネットワーク(GNN)は,ノード分類などのグラフベースの学習タスクの新興技術である。本研究では,ノードラベルの不均衡に対するGNNの脆弱性を明らかにする。本稿では,2つのモジュールからなるカリキュラム学習(GNN-CL)を備えたグラフニューラルネットワークフレームワークを提案する。
論文参考訳（メタデータ） (2022-02-05T10:46:11Z)
Learnable Graph Matching: Incorporating Graph Partitioning with Deep Feature Learning for Multiple Object Tracking [58.30147362745852]
フレーム間のデータアソシエーションは、Multiple Object Tracking(MOT)タスクの中核にある。既存の手法は、主にトラックレットとフレーム内検出の間のコンテキスト情報を無視する。そこで本研究では,学習可能なグラフマッチング手法を提案する。
論文参考訳（メタデータ） (2021-03-30T08:58:45Z)
Co-embedding of Nodes and Edges with Graph Neural Networks [13.020745622327894]
グラフ埋め込みは、高次元および非ユークリッド特徴空間でデータ構造を変換しエンコードする方法である。 CensNetは一般的なグラフ埋め込みフレームワークで、ノードとエッジの両方を潜在機能空間に埋め込む。提案手法は,4つのグラフ学習課題における最先端のパフォーマンスを達成または一致させる。
論文参考訳（メタデータ） (2020-10-25T22:39:31Z)
Sequential Graph Convolutional Network for Active Learning [53.99104862192055]
逐次グラフ畳み込みネットワーク(GCN)を用いた新しいプールベースアクティブラーニングフレームワークを提案する。少数のランダムなサンプル画像がシードラベル付き例であるので、グラフのパラメータを学習してラベル付きノードと非ラベル付きノードを区別する。我々はGCNの特性を利用してラベル付けされたものと十分に異なる未ラベルの例を選択する。
論文参考訳（メタデータ） (2020-06-18T00:55:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。