論文の概要: Masked Label Prediction: Unified Message Passing Model for
Semi-Supervised Classification
- arxiv url: http://arxiv.org/abs/2009.03509v5
- Date: Mon, 10 May 2021 02:23:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 20:35:38.438088
- Title: Masked Label Prediction: Unified Message Passing Model for
Semi-Supervised Classification
- Title(参考訳): マスクラベル予測:半教師付き分類のための統一メッセージパッシングモデル
- Authors: Yunsheng Shi, Zhengjie Huang, Shikun Feng, Hui Zhong, Wenjin Wang, Yu
Sun
- Abstract要約: 提案するUnified Message Passaging Model(UniMP)は,学習時間と推論時間の両方で特徴とラベルの伝搬を組み込むことができる。
UniMPは概念的に特徴伝播とラベル伝播を統一し、経験的に強力である。
Open Graph Benchmark (OGB) で最先端の半教師付き分類結果を得る
- 参考スコア(独自算出の注目度): 25.064700425166176
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural network (GNN) and label propagation algorithm (LPA) are both
message passing algorithms, which have achieved superior performance in
semi-supervised classification. GNN performs feature propagation by a neural
network to make predictions, while LPA uses label propagation across graph
adjacency matrix to get results. However, there is still no effective way to
directly combine these two kinds of algorithms. To address this issue, we
propose a novel Unified Message Passaging Model (UniMP) that can incorporate
feature and label propagation at both training and inference time. First, UniMP
adopts a Graph Transformer network, taking feature embedding and label
embedding as input information for propagation. Second, to train the network
without overfitting in self-loop input label information, UniMP introduces a
masked label prediction strategy, in which some percentage of input label
information are masked at random, and then predicted. UniMP conceptually
unifies feature propagation and label propagation and is empirically powerful.
It obtains new state-of-the-art semi-supervised classification results in Open
Graph Benchmark (OGB).
- Abstract(参考訳): グラフニューラルネットワーク(GNN)とラベル伝搬アルゴリズム(LPA)はどちらもメッセージパッシングアルゴリズムであり、半教師付き分類において優れた性能を実現している。
GNNはニューラルネットワークによる特徴伝搬を実行し、LPAはグラフ隣接行列をまたいだラベル伝搬を使用して結果を得る。
しかし、これらの2種類のアルゴリズムを直接組み合わせる効果的な方法はまだ存在しない。
この問題に対処するために、トレーニング時間と推論時間の両方で特徴とラベルの伝搬を組み込むことができるUnified Message Passaging Model (UniMP)を提案する。
まず、UniMPはGraph Transformerネットワークを採用し、機能埋め込みとラベル埋め込みを伝搬の入力情報として取り込む。
第2に,自己ループ入力ラベル情報をオーバーフィットすることなくネットワークをトレーニングするため,unimpでは,入力ラベル情報の一部のパーセンテージをランダムにマスキングして予測するマスクラベル予測戦略を導入する。
UniMPは概念的に特徴伝播とラベル伝播を統一し、経験的に強力である。
Open Graph Benchmark (OGB) で、最先端の半教師付き分類結果を得る。
関連論文リスト
- LOSS-GAT: Label Propagation and One-Class Semi-Supervised Graph
Attention Network for Fake News Detection [2.6396287656676725]
Loss-GATは、フェイクニュース検出のための半教師付き一級アプローチである。
我々は、ニュースを関心(フェイク)と非関心(リアル)の2つのグループに分類するために、2段階のラベル伝搬アルゴリズムを用いる。
論文 参考訳(メタデータ) (2024-02-13T12:02:37Z) - Domain-adaptive Message Passing Graph Neural Network [67.35534058138387]
クロスネットワークノード分類(CNNC)は、豊富なラベルを持つソースネットワークから知識を転送することで、ラベル不足のターゲットネットワーク内のノードを分類することを目的としている。
本稿では,グラフニューラルネットワーク(GNN)と条件付き対向ドメイン適応を統合したドメイン適応型メッセージパッシンググラフニューラルネットワーク(DM-GNN)を提案する。
論文 参考訳(メタデータ) (2023-08-31T05:26:08Z) - ProtoCon: Pseudo-label Refinement via Online Clustering and Prototypical
Consistency for Efficient Semi-supervised Learning [60.57998388590556]
ProtoConは信頼性に基づく疑似ラベル作成の新しい手法である。
ProtoConのオンライン版では、データセット全体のラベル履歴を1回のトレーニングサイクルで活用することができる。
最先端のデータセットよりも大幅に向上し、より高速に収束する。
論文 参考訳(メタデータ) (2023-03-22T23:51:54Z) - Label-Enhanced Graph Neural Network for Semi-supervised Node
Classification [32.64730237473914]
グラフニューラルネットワーク(GNN)のためのラベル強化学習フレームワークを提案する。
まず、各ラベルをクラス内のノードの仮想センターとしてモデル化し、次にノードとラベルの両方の表現を共同で学習する。
提案手法は,同一クラスに属するノードの表現を円滑に行うだけでなく,ラベルセマンティクスをGNNの学習プロセスに明示的にエンコードする。
論文 参考訳(メタデータ) (2022-05-31T09:48:47Z) - Why Propagate Alone? Parallel Use of Labels and Features on Graphs [42.01561812621306]
グラフニューラルネットワーク(GNN)とラベル伝搬は、ノード特性予測などのタスクにおいてグラフ構造を利用するように設計された2つの相互関連モデリング戦略を表す。
ラベルのトリックを2つの要因からなる解釈可能な決定論的学習目標に還元できることを示す。
論文 参考訳(メタデータ) (2021-10-14T07:34:11Z) - Semi-Supervised Semantic Segmentation with Cross Pseudo Supervision [56.950950382415925]
クロス擬似監督(CPS)と呼ばれる新しい整合性正規化手法を提案する。
CPS整合性には2つの役割がある: 同じ入力画像に対する2つの摂動ネットワークの予測間の高い類似性を奨励し、擬似ラベル付きラベル付きラベル付きデータを使用することでトレーニングデータを拡張する。
実験の結果,Cityscapes と PASCAL VOC 2012 を用いた半教師付きセグメンテーション性能が得られた。
論文 参考訳(メタデータ) (2021-06-02T15:21:56Z) - Group-aware Label Transfer for Domain Adaptive Person Re-identification [179.816105255584]
Unsupervised Adaptive Domain (UDA) Person Re-identification (ReID) は、ラベル付きソースドメインデータセットで訓練されたモデルを、さらなるアノテーションなしでターゲットドメインデータセットに適応することを目的としている。
最も成功したUDA-ReIDアプローチは、クラスタリングに基づく擬似ラベル予測と表現学習を組み合わせて、2つのステップを交互に実行する。
疑似ラベル予測と表現学習のオンラインインタラクションと相互促進を可能にするグループ認識ラベル転送(GLT)アルゴリズムを提案します。
論文 参考訳(メタデータ) (2021-03-23T07:57:39Z) - On the Equivalence of Decoupled Graph Convolution Network and Label
Propagation [60.34028546202372]
いくつかの研究は、カップリングがデカップリングよりも劣っていることを示している。
有効性にもかかわらず、疎結合GCNの作用機構はよく理解されていない。
本稿では,分離GCNの欠陥を克服する適応的学習法(PTA)を提案する。
論文 参考訳(メタデータ) (2020-10-23T13:57:39Z) - Unifying Graph Convolutional Neural Networks and Label Propagation [73.82013612939507]
LPAとGCNの関係を特徴・ラベルの平滑化と特徴・ラベルの影響の2点の観点から検討した。
理論解析に基づいて,ノード分類のためのGCNとLCAを統一するエンドツーエンドモデルを提案する。
我々のモデルは、既存の特徴に基づく注目モデルよりもタスク指向のノードラベルに基づく学習注意重みと見なすこともできる。
論文 参考訳(メタデータ) (2020-02-17T03:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。