論文の概要: Unsupervised Episode Generation for Graph Meta-learning
- arxiv url: http://arxiv.org/abs/2306.15217v1
- Date: Tue, 27 Jun 2023 05:37:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-28 14:40:42.443744
- Title: Unsupervised Episode Generation for Graph Meta-learning
- Title(参考訳): グラフメタ学習のための教師なしエピソード生成
- Authors: Jihyeong Jung, Sangwoo Seo, Sungwon Kim and Chanyoung Park
- Abstract要約: ラベルのないメタラーニングによりFew-Shot Node- Classification (FSNC)問題を解決するための教師なしエピソード生成法について検討する。
提案手法はモデルに依存しないため,既存のグラフメタ学習モデルにプラグインできるが,性能の大部分を犠牲にせず,時には改善もできない。
- 参考スコア(独自算出の注目度): 8.602280098762664
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we investigate Unsupervised Episode Generation methods to
solve Few-Shot Node-Classification (FSNC) problem via Meta-learning without
labels. Dominant meta-learning methodologies for FSNC were developed under the
existence of abundant labeled nodes for training, which however may not be
possible to obtain in the real-world. Although few studies have been proposed
to tackle the label-scarcity problem, they still rely on a limited amount of
labeled data, which hinders the full utilization of the information of all
nodes in a graph. Despite the effectiveness of Self-Supervised Learning (SSL)
approaches on FSNC without labels, they mainly learn generic node embeddings
without consideration on the downstream task to be solved, which may limit its
performance. In this work, we propose unsupervised episode generation methods
to benefit from their generalization ability for FSNC tasks while resolving
label-scarcity problem. We first propose a method that utilizes graph
augmentation to generate training episodes called g-UMTRA, which however has
several drawbacks, i.e., 1) increased training time due to the computation of
augmented features and 2) low applicability to existing baselines. Hence, we
propose Neighbors as Queries (NaQ), which generates episodes from structural
neighbors found by graph diffusion. Our proposed methods are model-agnostic,
that is, they can be plugged into any existing graph meta-learning models,
while not sacrificing much of their performance or sometimes even improving
them. We provide theoretical insights to support why our unsupervised episode
generation methodologies work, and extensive experimental results demonstrate
the potential of our unsupervised episode generation methods for graph
meta-learning towards FSNC problems.
- Abstract(参考訳): 本稿では,ラベルなしのメタラーニングによるノード分類(fsnc)問題を解くための教師なしエピソード生成手法について検討する。
FSNCのための支配的なメタラーニング手法は、訓練のための豊富なラベル付きノードの存在下で開発されたが、現実世界では入手できない可能性がある。
ラベルカーシティ問題に取り組むための研究はほとんど提案されていないが、ラベル付きデータの量は限られており、グラフ内のすべてのノードの情報の利用を妨げている。
ラベルのないFSNCにSSL(Self-Supervised Learning)アプローチが有効であるにもかかわらず、彼らは主に、解決すべき下流タスクを考慮せずにジェネリックノードの埋め込みを学習し、パフォーマンスを制限できる。
本研究では,FSNCタスクの一般化能力の恩恵を受けるため,ラベルスカルシティ問題を解消しつつ,教師なしエピソード生成手法を提案する。
まず,グラフ拡張を利用してg-UMTRAと呼ばれるトレーニングエピソードを生成する手法を提案する。
1)強化特徴の計算による訓練時間の増加
2) 既存のベースラインの適用性は低い。
そこで我々は,グラフ拡散によって発見された構造的近傍からエピソードを生成するクエリ(naq)として隣人を提案する。
提案手法はモデルに依存しないため,既存のグラフメタ学習モデルにプラグインできるが,性能の大部分を犠牲にせず,時には改善もできない。
また, fsnc問題に対するグラフメタラーニングにおける教師なしエピソード生成手法の可能性について, 広範な実験結果から, 教師なしエピソード生成手法の可能性を示す。
関連論文リスト
- Classifying Nodes in Graphs without GNNs [50.311528896010785]
本稿では,完全GNNフリーなノード分類手法を提案する。
本手法は, 滑らかさ制約, 擬似ラベル反復, 近傍ラベルヒストグラムの3つの主要成分からなる。
論文 参考訳(メタデータ) (2024-02-08T18:59:30Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳(メタデータ) (2023-08-03T07:00:04Z) - Task-Equivariant Graph Few-shot Learning [7.78018583713337]
グラフニューラルネットワーク(GNN)は、少数ショットノード分類として知られる、限られた数のラベル付きノードでノードを分類できることが重要である。
本稿では,新しいアプローチであるタスク・平等グラフ数ショット学習(TEG)フレームワークを提案する。
我々のTEGフレームワークは、限られた数のトレーニングメタタスクを使用して、移行可能なタスク適応戦略を学習することを可能にする。
論文 参考訳(メタデータ) (2023-05-30T05:47:28Z) - Steering Graph Neural Networks with Pinning Control [23.99873285634287]
ラベル付きデータのプロトタイプ(クラスセンター)を活用することで表現学習を監督する制御原理を提案する。
グラフ学習を離散的動的プロセスとして扱うことと、ラベル付きデータのプロトタイプを「望ましい」クラス表現として扱うことにより、自動制御理論からピンニング制御のアイデアを借用する。
実験により,提案したPCGCNモデルにより,深部GNNや他の競合するヘテロフィリ指向手法よりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2023-03-02T13:50:23Z) - GraFN: Semi-Supervised Node Classification on Graph with Few Labels via
Non-Parametric Distribution Assignment [5.879936787990759]
本研究では,グラフの半教師付き手法であるGraFNを提案し,同一クラスに属するノードをグループ化する。
GraFNはグラフ全体からラベル付きノードとアンカーノードからランダムにノードをサンプリングする。
実世界のグラフ上のノード分類において,GraFNが半教師付き手法と自己教師型手法のどちらよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-04-04T08:22:30Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳(メタデータ) (2022-03-03T09:53:53Z) - Graph Neural Network with Curriculum Learning for Imbalanced Node
Classification [21.085314408929058]
グラフニューラルネットワーク(GNN)は,ノード分類などのグラフベースの学習タスクの新興技術である。
本研究では,ノードラベルの不均衡に対するGNNの脆弱性を明らかにする。
本稿では,2つのモジュールからなるカリキュラム学習(GNN-CL)を備えたグラフニューラルネットワークフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-05T10:46:11Z) - Node Feature Extraction by Self-Supervised Multi-scale Neighborhood
Prediction [123.20238648121445]
我々は、新しい自己教師型学習フレームワーク、グラフ情報支援ノード機能exTraction (GIANT)を提案する。
GIANT は eXtreme Multi-label Classification (XMC) 形式を利用しており、これはグラフ情報に基づいた言語モデルの微調整に不可欠である。
我々は,Open Graph Benchmarkデータセット上での標準GNNパイプラインよりもGIANTの方が優れた性能を示す。
論文 参考訳(メタデータ) (2021-10-29T19:55:12Z) - Learnable Graph Matching: Incorporating Graph Partitioning with Deep
Feature Learning for Multiple Object Tracking [58.30147362745852]
フレーム間のデータアソシエーションは、Multiple Object Tracking(MOT)タスクの中核にある。
既存の手法は、主にトラックレットとフレーム内検出の間のコンテキスト情報を無視する。
そこで本研究では,学習可能なグラフマッチング手法を提案する。
論文 参考訳(メタデータ) (2021-03-30T08:58:45Z) - Sequential Graph Convolutional Network for Active Learning [53.99104862192055]
逐次グラフ畳み込みネットワーク(GCN)を用いた新しいプールベースアクティブラーニングフレームワークを提案する。
少数のランダムなサンプル画像がシードラベル付き例であるので、グラフのパラメータを学習してラベル付きノードと非ラベル付きノードを区別する。
我々はGCNの特性を利用してラベル付けされたものと十分に異なる未ラベルの例を選択する。
論文 参考訳(メタデータ) (2020-06-18T00:55:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。