論文の概要: When Contrastive Learning Meets Active Learning: A Novel Graph Active
Learning Paradigm with Self-Supervision
- arxiv url: http://arxiv.org/abs/2010.16091v2
- Date: Fri, 16 Apr 2021 12:28:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-01 16:08:09.805588
- Title: When Contrastive Learning Meets Active Learning: A Novel Graph Active
Learning Paradigm with Self-Supervision
- Title(参考訳): コントラスト学習がアクティブラーニングを満たすとき--自己スーパービジョンを用いた新しいグラフアクティブラーニングパラダイム
- Authors: Yanqiao Zhu and Weizhi Xu and Qiang Liu and Shu Wu
- Abstract要約: 本稿では,グラフニューラルネットワーク(GNN)の性能を最大化するための最も情報性の高いノードを発見することを目的とした,グラフ上のアクティブラーニング(AL)について検討する。
比較学習(CL)の成功に触発され,グラフALをCLとシームレスに統合する新しいパラダイムを提案する。
5つの公開データセットに対する包括的かつ不確定な実験は、我々の手法が最先端技術よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 19.938379604834743
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper studies active learning (AL) on graphs, whose purpose is to
discover the most informative nodes to maximize the performance of graph neural
networks (GNNs). Previously, most graph AL methods focus on learning node
representations from a carefully selected labeled dataset with large amount of
unlabeled data neglected. Motivated by the success of contrastive learning
(CL), we propose a novel paradigm that seamlessly integrates graph AL with CL.
While being able to leverage the power of abundant unlabeled data in a
self-supervised manner, nodes selected by AL further provide semantic
information that can better guide representation learning. Besides, previous
work measures the informativeness of nodes without considering the neighborhood
propagation scheme of GNNs, so that noisy nodes may be selected. We argue that
due to the smoothing nature of GNNs, the central nodes from homophilous
subgraphs should benefit the model training most. To this end, we present a
minimax selection scheme that explicitly harnesses neighborhood information and
discover homophilous subgraphs to facilitate active selection. Comprehensive,
confounding-free experiments on five public datasets demonstrate the
superiority of our method over state-of-the-arts.
- Abstract(参考訳): 本稿では,グラフニューラルネットワーク(GNN)の性能を最大化するための最も情報性の高いノードを発見することを目的とした,グラフ上のアクティブラーニング(AL)について検討する。
以前は、ほとんどのグラフal手法は、大量のラベルなしデータを無視した注意深く選択されたラベル付きデータセットからノード表現を学習することに焦点を当てていた。
比較学習(CL)の成功に触発され,グラフALをCLとシームレスに統合する新しいパラダイムを提案する。
ALが選択したノードは、豊富なラベルのないデータのパワーを自己管理的に活用できる一方で、表現学習をより良くガイドできるセマンティック情報を提供する。
さらに, GNNの近傍伝搬方式を考慮せずに, ノードの情報量を測定することで, ノイズノードを選択することができる。
gnnの滑らかな性質から、ホモフィラスサブグラフからの中央ノードはモデルトレーニングの恩恵を受けるべきだと論じている。
そこで本研究では,近傍情報を明示的に活用し,ホモフィラス部分グラフを探索し,能動的選択を容易にするミニマックス選択方式を提案する。
5つの公開データセットに対する包括的かつ不確定な実験は、我々の手法が最先端技術よりも優れていることを示す。
関連論文リスト
- Label Deconvolution for Node Representation Learning on Large-scale
Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。
実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文 参考訳(メタデータ) (2023-09-26T13:09:43Z) - SMARTQUERY: An Active Learning Framework for Graph Neural Networks
through Hybrid Uncertainty Reduction [25.77052028238513]
本稿では,ハイブリッド不確実性低減関数を用いて,ラベル付きノードの少ないグラフニューラルネットワークを学習するフレームワークを提案する。
ごく少数のラベル付きデータを用いた最先端技術に対する本手法の競合性能を実証する。
論文 参考訳(メタデータ) (2022-12-02T20:49:38Z) - Learning with Few Labeled Nodes via Augmented Graph Self-Training [36.97506256446519]
GST(Augmented Graph Self-Training)フレームワークは、分離されたGSTバックボーンの上に2つの新しい(構造的および意味的な)拡張モジュールで構築されている。
この新たなフレームワークが,ラベル付きノードを極端に限定した効率的なグラフ予測モデルを学習できるかどうかを検討する。
論文 参考訳(メタデータ) (2022-08-26T03:36:01Z) - Node Representation Learning in Graph via Node-to-Neighbourhood Mutual
Information Maximization [27.701736055800314]
グラフにおける情報ノード表現の学習の鍵は、近隣からコンテキスト情報を得る方法にある。
本稿では,ノードの隠蔽表現と周辺領域の相互情報を直接的に最大化することで,自己教師付きノード表現学習戦略を提案する。
我々のフレームワークは、表現学習の質と効率を裏付ける正の選択が相反する比較的損失によって最適化されている。
論文 参考訳(メタデータ) (2022-03-23T08:21:10Z) - Partition-Based Active Learning for Graph Neural Networks [17.386869902409153]
グラフニューラルネットワーク(GNN)を用いた半教師あり学習の課題を,アクティブな学習環境において検討する。
GNNのための新しいパーティションベースのアクティブラーニングアプローチであるGraphPartを提案する。
論文 参考訳(メタデータ) (2022-01-23T22:51:14Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳(メタデータ) (2021-04-04T23:31:39Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳(メタデータ) (2021-01-16T16:18:43Z) - Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。
対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。
また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文 参考訳(メタデータ) (2021-01-06T03:05:37Z) - Deep Reinforcement Learning of Graph Matching [63.469961545293756]
ノードとペアの制約下でのグラフマッチング(GM)は、最適化からコンピュータビジョンまでの領域におけるビルディングブロックである。
GMのための強化学習ソルバを提案する。
rgmはペアワイズグラフ間のノード対応を求める。
本手法は,フロントエンドの特徴抽出と親和性関数学習に焦点をあてるという意味において,従来のディープグラフマッチングモデルと異なる。
論文 参考訳(メタデータ) (2020-12-16T13:48:48Z) - Cyclic Label Propagation for Graph Semi-supervised Learning [52.102251202186025]
本稿では,CycPropと呼ばれるグラフ半教師付き学習のための新しいフレームワークを提案する。
CycPropはGNNを周期的かつ相互に強化された方法でラベル伝播の過程に統合する。
特に,提案するCycPropでは,GNNモジュールが学習したノード埋め込みをラベル伝搬による拡張情報で更新する。
論文 参考訳(メタデータ) (2020-11-24T02:55:40Z) - CAGNN: Cluster-Aware Graph Neural Networks for Unsupervised Graph
Representation Learning [19.432449825536423]
教師なしグラフ表現学習は、教師なしの低次元ノード埋め込みを学習することを目的としている。
本稿では、自己教師付き手法を用いた教師なしグラフ表現学習のための新しいクラスタ対応グラフニューラルネットワーク(CAGNN)モデルを提案する。
論文 参考訳(メタデータ) (2020-09-03T13:57:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。