論文の概要: Transductive Linear Probing: A Novel Framework for Few-Shot Node
Classification
- arxiv url: http://arxiv.org/abs/2212.05606v1
- Date: Sun, 11 Dec 2022 21:10:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-13 17:33:37.586693
- Title: Transductive Linear Probing: A Novel Framework for Few-Shot Node
Classification
- Title（参考訳）: Transductive Linear Probing:Few-Shotノード分類のための新しいフレームワーク
- Authors: Zhen Tan, Song Wang, Kaize Ding, Jundong Li and Huan Liu
- Abstract要約: 自己教師付きグラフと対照的な事前学習による帰納的線形探索は、同じプロトコル下での最先端の完全教師付きメタラーニング手法より優れていることを示す。
この研究が、数ショットのノード分類問題に新たな光を当て、グラフ上のわずかにラベル付けされたインスタンスから学ぶことの今後の研究を促進することを願っている。
- 参考スコア（独自算出の注目度）: 56.17097897754628
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot node classification is tasked to provide accurate predictions for
nodes from novel classes with only few representative labeled nodes. This
problem has drawn tremendous attention for its projection to prevailing
real-world applications, such as product categorization for newly added
commodity categories on an E-commerce platform with scarce records or diagnoses
for rare diseases on a patient similarity graph. To tackle such challenging
label scarcity issues in the non-Euclidean graph domain, meta-learning has
become a successful and predominant paradigm. More recently, inspired by the
development of graph self-supervised learning, transferring pretrained node
embeddings for few-shot node classification could be a promising alternative to
meta-learning but remains unexposed. In this work, we empirically demonstrate
the potential of an alternative framework, \textit{Transductive Linear
Probing}, that transfers pretrained node embeddings, which are learned from
graph contrastive learning methods. We further extend the setting of few-shot
node classification from standard fully supervised to a more realistic
self-supervised setting, where meta-learning methods cannot be easily deployed
due to the shortage of supervision from training classes. Surprisingly, even
without any ground-truth labels, transductive linear probing with
self-supervised graph contrastive pretraining can outperform the
state-of-the-art fully supervised meta-learning based methods under the same
protocol. We hope this work can shed new light on few-shot node classification
problems and foster future research on learning from scarcely labeled instances
on graphs.
- Abstract（参考訳）: 少ないショットノード分類は、少数の代表ラベル付きノードを持つ新しいクラスからのノードの正確な予測を提供する。
この問題は、Eコマースプラットフォーム上で新たに追加された商品カテゴリーの製品分類や、患者の類似性グラフ上の稀な疾患の診断など、現実の応用を目論む上で大きな注目を集めている。
非ユークリッドグラフ領域におけるこのような難解なラベル不足問題に対処するために、メタラーニングは成功し、主要なパラダイムとなっている。
最近では、グラフの自己教師型学習の発展に触発されて、数ショットのノード分類のための事前訓練ノードの埋め込みを転送することがメタラーニングの有望な代替になり得るが、未発表のままである。
本研究では,グラフコントラスト学習法から学習した事前学習ノードの埋め込みを転送する代替フレームワーク \textit{Transductive Linear Probing} の可能性を実証的に示す。
さらに,訓練クラスからの監視が不足しているため,メタラーニング手法が容易に展開できないような,より現実的な自己教師付き設定へと,標準の完全教師付きから少数のノード分類の設定を拡張した。
驚くべきことに、接地ラベルがなくても、自己教師付きグラフコントラストによるトランスダクティブ線形探索は、同じプロトコルの下で、最先端の教師付きメタラーニングベースのメソッドよりも優れています。
この研究が、少数ノードの分類問題に新たな光を当て、グラフ上の希少なラベル付きインスタンスからの学習に関する今後の研究を促進できることを願っている。
関連論文リスト
- Open-World Semi-Supervised Learning for Node Classification [53.07866559269709]
ノード分類のためのオープンワールド半教師付き学習(Open World SSL)は、グラフコミュニティにおいて実用的だが未探索の課題である。
オープンワールド半教師付きノード分類のためのIM Balance-AwareメソッドOpenIMAを提案する。
論文 参考訳（メタデータ） (2024-03-18T05:12:54Z) - Inductive Linear Probing for Few-shot Node Classification [23.137926097692844]
我々は、帰納的な数発のノード分類設定において、現在のフレームワークの限界を強調するための実証的研究を行う。
本稿では,帰納的ノード分類タスクに特化して,シンプルながら競争力のあるベースラインアプローチを提案する。
論文 参考訳（メタデータ） (2023-06-14T01:33:06Z) - Similarity-aware Positive Instance Sampling for Graph Contrastive
Pre-training [82.68805025636165]
トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。
私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。
さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
論文 参考訳（メタデータ） (2022-06-23T20:12:51Z) - Geometer: Graph Few-Shot Class-Incremental Learning via Prototype
Representation [50.772432242082914]
既存のグラフニューラルネットワークに基づく手法は主に、豊富なラベリングを持つ固定クラス内の未ラベルノードの分類に重点を置いている。
本稿では,この難易度で実用的なグラフ数ショットクラスインクリメンタルラーニング(GFSCIL)問題に着目し,Geometerと呼ばれる新しい手法を提案する。
完全に接続されたニューラルネットワークのクラスを置き換えて再トレーニングする代わりに、Geometerは、最も近いクラスのプロトタイプを見つけることによって、ノードのラベルを予測する。
論文 参考訳（メタデータ） (2022-05-27T13:02:07Z) - A Simple Yet Effective Pretraining Strategy for Graph Few-shot Learning [38.66690010054665]
本稿では,グラフ数ショット学習のための新しいパラダイムとして,シンプルなトランスダクティブな微調整型フレームワークを提案する。
事前学習のために,数発のノード分類に特有なデータ拡張戦略を持つ教師付きコントラスト学習フレームワークを提案する。
論文 参考訳（メタデータ） (2022-03-29T22:30:00Z) - Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。
GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。
提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
論文 参考訳（メタデータ） (2022-03-03T09:53:53Z) - Graph Neural Network with Curriculum Learning for Imbalanced Node
Classification [21.085314408929058]
グラフニューラルネットワーク(GNN)は,ノード分類などのグラフベースの学習タスクの新興技術である。
本研究では,ノードラベルの不均衡に対するGNNの脆弱性を明らかにする。
本稿では,2つのモジュールからなるカリキュラム学習(GNN-CL)を備えたグラフニューラルネットワークフレームワークを提案する。
論文 参考訳（メタデータ） (2022-02-05T10:46:11Z) - Weakly-supervised Graph Meta-learning for Few-shot Node Classification [53.36828125138149]
新しいグラフメタ学習フレームワーク - Graph Hallucination Networks (Meta-GHN) を提案する。
新たなロバストネス強化エピソードトレーニングに基づいて、Meta-GHNは、弱いラベル付きデータからクリーンノード表現を幻覚させるメタ学習を行う。
大規模な実験は、既存のグラフメタ学習研究よりもMeta-GHNの方が優れていることを示す。
論文 参考訳（メタデータ） (2021-06-12T22:22:10Z) - Active Learning on Attributed Graphs via Graph Cognizant Logistic
Regression and Preemptive Query Generation [37.742218733235084]
本稿では,属性グラフにおけるノード分類処理のための新しいグラフベース能動学習アルゴリズムを提案する。
提案アルゴリズムは,線形化グラフ畳み込みニューラルネットワーク(GCN)と等価なグラフ認識ロジスティック回帰を用いて,予測フェーズの誤差低減を最大化する。
5つの公開ベンチマークデータセットで実験を行い、最先端のアプローチよりも大幅に改善されていることを示す。
論文 参考訳（メタデータ） (2020-07-09T18:00:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。