論文の概要: Unsupervised Episode Generation for Graph Meta-learning
- arxiv url: http://arxiv.org/abs/2306.15217v2
- Date: Wed, 25 Oct 2023 10:09:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-26 20:23:47.217521
- Title: Unsupervised Episode Generation for Graph Meta-learning
- Title(参考訳): グラフメタ学習のための教師なしエピソード生成
- Authors: Jihyeong Jung, Sangwoo Seo, Sungwon Kim and Chanyoung Park
- Abstract要約: Few-Shot Node-Classification (FSNC) タスクをラベルなしでメタラーニングすることで解決するための教師なしエピソード生成法について検討する。
提案手法はNeighbors as Queries (NaQ) と呼ばれ,ノード-ノード類似性に基づくトレーニングエピソードを生成する。
- 参考スコア(独自算出の注目度): 19.79756391898179
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate Unsupervised Episode Generation methods to solve Few-Shot
Node-Classification (FSNC) task via Meta-learning without labels. Dominant
meta-learning methodologies for FSNC were developed under the existence of
abundant labeled nodes from diverse base classes for training, which however
may not be possible to obtain in the real-world. Although a few studies tried
to tackle the label-scarcity problem in graph meta-learning, they still rely on
a few labeled nodes, which hinders the full utilization of the information of
all nodes in a graph. Despite the effectiveness of graph contrastive learning
(GCL) methods in the FSNC task without using the label information, they mainly
learn generic node embeddings without consideration of the downstream task to
be solved, which may limit its performance in the FSNC task. To this end, we
propose a simple yet effective unsupervised episode generation method to
benefit from the generalization ability of meta-learning for the FSNC task,
while resolving the label-scarcity problem. Our proposed method, called
Neighbors as Queries (NaQ), generates training episodes based on pre-calculated
node-node similarity. Moreover, NaQ is model-agnostic; hence, it can be used to
train any existing supervised graph meta-learning methods in an unsupervised
manner, while not sacrificing much of their performance or sometimes even
improving them. Extensive experimental results demonstrate the potential of our
unsupervised episode generation methods for graph meta-learning towards the
FSNC task. Our code is available at: https://github.com/JhngJng/NaQ-PyTorch
- Abstract(参考訳): ラベルなしのメタラーニングにより,fsncタスクを解決するための教師なしエピソード生成手法について検討した。
fsncのための支配的なメタラーニング手法は、トレーニングのための多様なベースクラスから豊富なラベル付きノードの存在下で開発されたが、実世界では得られない可能性がある。
グラフメタラーニングにおけるラベル・スカーシティ問題にいくつかの研究が取り組もうとしたが、それでもいくつかのラベル付きノードに依存しており、グラフ内のすべてのノードの情報を完全に活用できない。
ラベル情報を使用しないFSNCタスクにおけるグラフコントラッシブラーニング(GCL)手法の有効性にもかかわらず、主にダウンストリームタスクを考慮せずにジェネリックノード埋め込みを学習し、FSNCタスクのパフォーマンスを制限できる可能性がある。
そこで本稿では,FSNCタスクにおけるメタラーニングの一般化能力の恩恵を受けるため,ラベル・スカルシティ問題を解消しつつ,単純かつ効果的なエピソード生成手法を提案する。
提案手法はNeighbors as Queries (NaQ) と呼ばれ,ノード-ノード類似性に基づくトレーニングエピソードを生成する。
さらに、NaQはモデルに依存しないため、既存の教師なしグラフメタ学習メソッドを教師なしでトレーニングするのに使用することができる。
広範な実験結果から,fsncタスクに対するグラフメタラーニングのための教師なしエピソード生成手法の可能性を示した。
私たちのコードは、https://github.com/JhngJng/NaQ-PyTorchで利用可能です。
関連論文リスト
- Classifying Nodes in Graphs without GNNs [50.311528896010785]
本稿では,完全GNNフリーなノード分類手法を提案する。
本手法は, 滑らかさ制約, 擬似ラベル反復, 近傍ラベルヒストグラムの3つの主要成分からなる。
論文 参考訳(メタデータ) (2024-02-08T18:59:30Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳(メタデータ) (2023-08-03T07:00:04Z) - Task-Equivariant Graph Few-shot Learning [7.78018583713337]
グラフニューラルネットワーク(GNN)は、少数ショットノード分類として知られる、限られた数のラベル付きノードでノードを分類できることが重要である。
本稿では,新しいアプローチであるタスク・平等グラフ数ショット学習(TEG)フレームワークを提案する。
我々のTEGフレームワークは、限られた数のトレーニングメタタスクを使用して、移行可能なタスク適応戦略を学習することを可能にする。
論文 参考訳(メタデータ) (2023-05-30T05:47:28Z) - Steering Graph Neural Networks with Pinning Control [23.99873285634287]
ラベル付きデータのプロトタイプ(クラスセンター)を活用することで表現学習を監督する制御原理を提案する。
グラフ学習を離散的動的プロセスとして扱うことと、ラベル付きデータのプロトタイプを「望ましい」クラス表現として扱うことにより、自動制御理論からピンニング制御のアイデアを借用する。
実験により,提案したPCGCNモデルにより,深部GNNや他の競合するヘテロフィリ指向手法よりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2023-03-02T13:50:23Z) - GraFN: Semi-Supervised Node Classification on Graph with Few Labels via
Non-Parametric Distribution Assignment [5.879936787990759]
本研究では,グラフの半教師付き手法であるGraFNを提案し,同一クラスに属するノードをグループ化する。
GraFNはグラフ全体からラベル付きノードとアンカーノードからランダムにノードをサンプリングする。
実世界のグラフ上のノード分類において,GraFNが半教師付き手法と自己教師型手法のどちらよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-04-04T08:22:30Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳(メタデータ) (2022-03-03T09:53:53Z) - Graph Neural Network with Curriculum Learning for Imbalanced Node
Classification [21.085314408929058]
グラフニューラルネットワーク(GNN)は,ノード分類などのグラフベースの学習タスクの新興技術である。
本研究では,ノードラベルの不均衡に対するGNNの脆弱性を明らかにする。
本稿では,2つのモジュールからなるカリキュラム学習(GNN-CL)を備えたグラフニューラルネットワークフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-05T10:46:11Z) - Node Feature Extraction by Self-Supervised Multi-scale Neighborhood
Prediction [123.20238648121445]
我々は、新しい自己教師型学習フレームワーク、グラフ情報支援ノード機能exTraction (GIANT)を提案する。
GIANT は eXtreme Multi-label Classification (XMC) 形式を利用しており、これはグラフ情報に基づいた言語モデルの微調整に不可欠である。
我々は,Open Graph Benchmarkデータセット上での標準GNNパイプラインよりもGIANTの方が優れた性能を示す。
論文 参考訳(メタデータ) (2021-10-29T19:55:12Z) - Learnable Graph Matching: Incorporating Graph Partitioning with Deep
Feature Learning for Multiple Object Tracking [58.30147362745852]
フレーム間のデータアソシエーションは、Multiple Object Tracking(MOT)タスクの中核にある。
既存の手法は、主にトラックレットとフレーム内検出の間のコンテキスト情報を無視する。
そこで本研究では,学習可能なグラフマッチング手法を提案する。
論文 参考訳(メタデータ) (2021-03-30T08:58:45Z) - Sequential Graph Convolutional Network for Active Learning [53.99104862192055]
逐次グラフ畳み込みネットワーク(GCN)を用いた新しいプールベースアクティブラーニングフレームワークを提案する。
少数のランダムなサンプル画像がシードラベル付き例であるので、グラフのパラメータを学習してラベル付きノードと非ラベル付きノードを区別する。
我々はGCNの特性を利用してラベル付けされたものと十分に異なる未ラベルの例を選択する。
論文 参考訳(メタデータ) (2020-06-18T00:55:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。