論文の概要: Unsupervised Episode Generation for Graph Meta-learning
- arxiv url: http://arxiv.org/abs/2306.15217v2
- Date: Wed, 25 Oct 2023 10:09:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-26 20:23:47.217521
- Title: Unsupervised Episode Generation for Graph Meta-learning
- Title（参考訳）: グラフメタ学習のための教師なしエピソード生成
- Authors: Jihyeong Jung, Sangwoo Seo, Sungwon Kim and Chanyoung Park
- Abstract要約: Few-Shot Node-Classification (FSNC) タスクをラベルなしでメタラーニングすることで解決するための教師なしエピソード生成法について検討する。
提案手法はNeighbors as Queries (NaQ) と呼ばれ,ノード-ノード類似性に基づくトレーニングエピソードを生成する。
- 参考スコア（独自算出の注目度）: 19.79756391898179
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate Unsupervised Episode Generation methods to solve Few-Shot
Node-Classification (FSNC) task via Meta-learning without labels. Dominant
meta-learning methodologies for FSNC were developed under the existence of
abundant labeled nodes from diverse base classes for training, which however
may not be possible to obtain in the real-world. Although a few studies tried
to tackle the label-scarcity problem in graph meta-learning, they still rely on
a few labeled nodes, which hinders the full utilization of the information of
all nodes in a graph. Despite the effectiveness of graph contrastive learning
(GCL) methods in the FSNC task without using the label information, they mainly
learn generic node embeddings without consideration of the downstream task to
be solved, which may limit its performance in the FSNC task. To this end, we
propose a simple yet effective unsupervised episode generation method to
benefit from the generalization ability of meta-learning for the FSNC task,
while resolving the label-scarcity problem. Our proposed method, called
Neighbors as Queries (NaQ), generates training episodes based on pre-calculated
node-node similarity. Moreover, NaQ is model-agnostic; hence, it can be used to
train any existing supervised graph meta-learning methods in an unsupervised
manner, while not sacrificing much of their performance or sometimes even
improving them. Extensive experimental results demonstrate the potential of our
unsupervised episode generation methods for graph meta-learning towards the
FSNC task. Our code is available at: https://github.com/JhngJng/NaQ-PyTorch
- Abstract（参考訳）: ラベルなしのメタラーニングにより,fsncタスクを解決するための教師なしエピソード生成手法について検討した。
fsncのための支配的なメタラーニング手法は、トレーニングのための多様なベースクラスから豊富なラベル付きノードの存在下で開発されたが、実世界では得られない可能性がある。
グラフメタラーニングにおけるラベル・スカーシティ問題にいくつかの研究が取り組もうとしたが、それでもいくつかのラベル付きノードに依存しており、グラフ内のすべてのノードの情報を完全に活用できない。
ラベル情報を使用しないFSNCタスクにおけるグラフコントラッシブラーニング(GCL)手法の有効性にもかかわらず、主にダウンストリームタスクを考慮せずにジェネリックノード埋め込みを学習し、FSNCタスクのパフォーマンスを制限できる可能性がある。
そこで本稿では,FSNCタスクにおけるメタラーニングの一般化能力の恩恵を受けるため,ラベル・スカルシティ問題を解消しつつ,単純かつ効果的なエピソード生成手法を提案する。
提案手法はNeighbors as Queries (NaQ) と呼ばれ,ノード-ノード類似性に基づくトレーニングエピソードを生成する。
さらに、NaQはモデルに依存しないため、既存の教師なしグラフメタ学習メソッドを教師なしでトレーニングするのに使用することができる。
広範な実験結果から,fsncタスクに対するグラフメタラーニングのための教師なしエピソード生成手法の可能性を示した。
私たちのコードは、https://github.com/JhngJng/NaQ-PyTorchで利用可能です。
関連論文リスト
- Self-Pro: A Self-Prompt and Tuning Framework for Graph Neural Networks [10.794305560114903]
Self-Promptは、モデルとデータ自体に基づいたグラフのプロンプトフレームワークである。
非対称なグラフコントラスト学習を導入し、不均質に対処し、プリテキストと下流タスクの目的を整合させる。
11のベンチマークデータセットに対する広範な実験を行い、その優位性を実証する。
論文 参考訳（メタデータ） (2023-10-16T12:58:04Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳（メタデータ） (2023-08-03T07:00:04Z) - Learnable Graph Matching: A Practical Paradigm for Data Association [74.28753343714858]
これらの問題に対処するための一般的な学習可能なグラフマッチング法を提案する。
提案手法は,複数のMOTデータセット上での最先端性能を実現する。
画像マッチングでは,一般的な屋内データセットであるScanNetで最先端の手法より優れている。
論文 参考訳（メタデータ） (2023-03-27T17:39:00Z) - Steering Graph Neural Networks with Pinning Control [23.99873285634287]
ラベル付きデータのプロトタイプ(クラスセンター)を活用することで表現学習を監督する制御原理を提案する。
グラフ学習を離散的動的プロセスとして扱うことと、ラベル付きデータのプロトタイプを「望ましい」クラス表現として扱うことにより、自動制御理論からピンニング制御のアイデアを借用する。
実験により,提案したPCGCNモデルにより,深部GNNや他の競合するヘテロフィリ指向手法よりも優れた性能が得られることが示された。
論文 参考訳（メタデータ） (2023-03-02T13:50:23Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳（メタデータ） (2022-03-03T09:53:53Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z) - Training Free Graph Neural Networks for Graph Matching [103.45755859119035]
TFGMは、グラフニューラルネットワーク(GNN)ベースのグラフマッチングのパフォーマンスをトレーニングなしで向上するフレームワークである。
TFGMをさまざまなGNNに適用することは、ベースラインよりも有望な改善を示している。
論文 参考訳（メタデータ） (2022-01-14T09:04:46Z) - Graph-MLP: Node Classification without Message Passing in Graph [28.604893350871777]
グラフニューラルネットワーク(GNN)は、非ユークリッド構造データを扱う上での有効性を実証している。
最近の研究は主に強力なメッセージパッシングモジュールに焦点を当てているが、この記事では、メッセージパッシングモジュールは必要ないことを示す。
本稿では,グラフ構造を利用した教師信号を用いた,純粋な多層パーセプトロンベースのGraph-MLPを提案する。
論文 参考訳（メタデータ） (2021-06-08T02:07:21Z) - Graph Ordering: Towards the Optimal by Learning [69.72656588714155]
グラフ表現学習は、ノード分類、予測、コミュニティ検出など、多くのグラフベースのアプリケーションで顕著な成功を収めている。
しかし,グラフ圧縮やエッジ分割などのグラフアプリケーションでは,グラフ表現学習タスクに還元することは極めて困難である。
本稿では,このようなアプリケーションの背後にあるグラフ順序付け問題に対して,新しい学習手法を用いて対処することを提案する。
論文 参考訳（メタデータ） (2020-01-18T09:14:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。