論文の概要: Unsupervised Episode Generation for Graph Meta-learning
- arxiv url: http://arxiv.org/abs/2306.15217v1
- Date: Tue, 27 Jun 2023 05:37:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-28 14:40:42.443744
- Title: Unsupervised Episode Generation for Graph Meta-learning
- Title（参考訳）: グラフメタ学習のための教師なしエピソード生成
- Authors: Jihyeong Jung, Sangwoo Seo, Sungwon Kim and Chanyoung Park
- Abstract要約: ラベルのないメタラーニングによりFew-Shot Node- Classification (FSNC)問題を解決するための教師なしエピソード生成法について検討する。
提案手法はモデルに依存しないため,既存のグラフメタ学習モデルにプラグインできるが,性能の大部分を犠牲にせず,時には改善もできない。
- 参考スコア（独自算出の注目度）: 8.602280098762664
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we investigate Unsupervised Episode Generation methods to
solve Few-Shot Node-Classification (FSNC) problem via Meta-learning without
labels. Dominant meta-learning methodologies for FSNC were developed under the
existence of abundant labeled nodes for training, which however may not be
possible to obtain in the real-world. Although few studies have been proposed
to tackle the label-scarcity problem, they still rely on a limited amount of
labeled data, which hinders the full utilization of the information of all
nodes in a graph. Despite the effectiveness of Self-Supervised Learning (SSL)
approaches on FSNC without labels, they mainly learn generic node embeddings
without consideration on the downstream task to be solved, which may limit its
performance. In this work, we propose unsupervised episode generation methods
to benefit from their generalization ability for FSNC tasks while resolving
label-scarcity problem. We first propose a method that utilizes graph
augmentation to generate training episodes called g-UMTRA, which however has
several drawbacks, i.e., 1) increased training time due to the computation of
augmented features and 2) low applicability to existing baselines. Hence, we
propose Neighbors as Queries (NaQ), which generates episodes from structural
neighbors found by graph diffusion. Our proposed methods are model-agnostic,
that is, they can be plugged into any existing graph meta-learning models,
while not sacrificing much of their performance or sometimes even improving
them. We provide theoretical insights to support why our unsupervised episode
generation methodologies work, and extensive experimental results demonstrate
the potential of our unsupervised episode generation methods for graph
meta-learning towards FSNC problems.
- Abstract（参考訳）: 本稿では,ラベルなしのメタラーニングによるノード分類(fsnc)問題を解くための教師なしエピソード生成手法について検討する。
FSNCのための支配的なメタラーニング手法は、訓練のための豊富なラベル付きノードの存在下で開発されたが、現実世界では入手できない可能性がある。
ラベルカーシティ問題に取り組むための研究はほとんど提案されていないが、ラベル付きデータの量は限られており、グラフ内のすべてのノードの情報の利用を妨げている。
ラベルのないFSNCにSSL(Self-Supervised Learning)アプローチが有効であるにもかかわらず、彼らは主に、解決すべき下流タスクを考慮せずにジェネリックノードの埋め込みを学習し、パフォーマンスを制限できる。
本研究では,FSNCタスクの一般化能力の恩恵を受けるため,ラベルスカルシティ問題を解消しつつ,教師なしエピソード生成手法を提案する。
まず,グラフ拡張を利用してg-UMTRAと呼ばれるトレーニングエピソードを生成する手法を提案する。
1)強化特徴の計算による訓練時間の増加
2) 既存のベースラインの適用性は低い。
そこで我々は,グラフ拡散によって発見された構造的近傍からエピソードを生成するクエリ(naq)として隣人を提案する。
提案手法はモデルに依存しないため,既存のグラフメタ学習モデルにプラグインできるが,性能の大部分を犠牲にせず,時には改善もできない。
また, fsnc問題に対するグラフメタラーニングにおける教師なしエピソード生成手法の可能性について, 広範な実験結果から, 教師なしエピソード生成手法の可能性を示す。
関連論文リスト
- Self-Pro: A Self-Prompt and Tuning Framework for Graph Neural Networks [10.794305560114903]
Self-Promptは、モデルとデータ自体に基づいたグラフのプロンプトフレームワークである。
非対称なグラフコントラスト学習を導入し、不均質に対処し、プリテキストと下流タスクの目的を整合させる。
11のベンチマークデータセットに対する広範な実験を行い、その優位性を実証する。
論文 参考訳（メタデータ） (2023-10-16T12:58:04Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳（メタデータ） (2023-08-03T07:00:04Z) - Learnable Graph Matching: A Practical Paradigm for Data Association [74.28753343714858]
これらの問題に対処するための一般的な学習可能なグラフマッチング法を提案する。
提案手法は,複数のMOTデータセット上での最先端性能を実現する。
画像マッチングでは,一般的な屋内データセットであるScanNetで最先端の手法より優れている。
論文 参考訳（メタデータ） (2023-03-27T17:39:00Z) - Steering Graph Neural Networks with Pinning Control [23.99873285634287]
ラベル付きデータのプロトタイプ(クラスセンター)を活用することで表現学習を監督する制御原理を提案する。
グラフ学習を離散的動的プロセスとして扱うことと、ラベル付きデータのプロトタイプを「望ましい」クラス表現として扱うことにより、自動制御理論からピンニング制御のアイデアを借用する。
実験により,提案したPCGCNモデルにより,深部GNNや他の競合するヘテロフィリ指向手法よりも優れた性能が得られることが示された。
論文 参考訳（メタデータ） (2023-03-02T13:50:23Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳（メタデータ） (2022-03-03T09:53:53Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z) - Training Free Graph Neural Networks for Graph Matching [103.45755859119035]
TFGMは、グラフニューラルネットワーク(GNN)ベースのグラフマッチングのパフォーマンスをトレーニングなしで向上するフレームワークである。
TFGMをさまざまなGNNに適用することは、ベースラインよりも有望な改善を示している。
論文 参考訳（メタデータ） (2022-01-14T09:04:46Z) - Graph-MLP: Node Classification without Message Passing in Graph [28.604893350871777]
グラフニューラルネットワーク(GNN)は、非ユークリッド構造データを扱う上での有効性を実証している。
最近の研究は主に強力なメッセージパッシングモジュールに焦点を当てているが、この記事では、メッセージパッシングモジュールは必要ないことを示す。
本稿では,グラフ構造を利用した教師信号を用いた,純粋な多層パーセプトロンベースのGraph-MLPを提案する。
論文 参考訳（メタデータ） (2021-06-08T02:07:21Z) - Graph Ordering: Towards the Optimal by Learning [69.72656588714155]
グラフ表現学習は、ノード分類、予測、コミュニティ検出など、多くのグラフベースのアプリケーションで顕著な成功を収めている。
しかし,グラフ圧縮やエッジ分割などのグラフアプリケーションでは,グラフ表現学習タスクに還元することは極めて困難である。
本稿では,このようなアプリケーションの背後にあるグラフ順序付け問題に対して,新しい学習手法を用いて対処することを提案する。
論文 参考訳（メタデータ） (2020-01-18T09:14:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。