論文の概要: Distilling Self-Knowledge From Contrastive Links to Classify Graph Nodes
Without Passing Messages
- arxiv url: http://arxiv.org/abs/2106.08541v1
- Date: Wed, 16 Jun 2021 03:56:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-17 17:42:22.130298
- Title: Distilling Self-Knowledge From Contrastive Links to Classify Graph Nodes
Without Passing Messages
- Title(参考訳): コントラストリンクから自己知識を抽出して、メッセージの通過なしにグラフノードを分類する
- Authors: Yi Luo, Aiguo Chen, Ke Yan, Ling Tian
- Abstract要約: 接続ノード対から自己知識を多層パーセプトロンに変換するLinkDistという手法を開発した。
8つの実世界のデータセットによる実験は、LinkDistの利点を示している。
- 参考スコア(独自算出の注目度): 13.23156886382825
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nowadays, Graph Neural Networks (GNNs) following the Message Passing paradigm
become the dominant way to learn on graphic data. Models in this paradigm have
to spend extra space to look up adjacent nodes with adjacency matrices and
extra time to aggregate multiple messages from adjacent nodes. To address this
issue, we develop a method called LinkDist that distils self-knowledge from
connected node pairs into a Multi-Layer Perceptron (MLP) without the need to
aggregate messages. Experiment with 8 real-world datasets shows the MLP derived
from LinkDist can predict the label of a node without knowing its adjacencies
but achieve comparable accuracy against GNNs in the contexts of semi- and
full-supervised node classification. Moreover, LinkDist benefits from its
Non-Message Passing paradigm that we can also distil self-knowledge from
arbitrarily sampled node pairs in a contrastive way to further boost the
performance of LinkDist.
- Abstract(参考訳): 今日では、メッセージパッシングパラダイムに続くグラフニューラルネットワーク(GNN)が、グラフィックデータについて学ぶ主要な方法となっている。
このパラダイムのモデルでは、隣接ノードを隣接行列で調べるための余分なスペースと、隣接ノードから複数のメッセージを集約するための余分な時間が必要です。
この問題を解決するために、LinkDistと呼ばれる手法を開発し、接続ノード対からメッセージの集約を必要とせずに、自己知識をMLP(Multi-Layer Perceptron)に変換する。
実世界の8つのデータセットを用いた実験では、LinkDistから派生したMLPは、その隣接性を知らずにノードのラベルを予測できるが、半教師付きノード分類と完全教師付きノード分類のコンテキストにおいて、GNNに対して同等の精度を達成する。
さらに、LinkDistは非Message Passingパラダイムの利点として、任意にサンプリングされたノードペアから自己知識を不要にすることで、LinkDistの性能をさらに向上することができる。
関連論文リスト
- Efficient Link Prediction via GNN Layers Induced by Negative Sampling [86.87385758192566]
リンク予測のためのグラフニューラルネットワーク(GNN)は、緩やかに2つの広いカテゴリに分けられる。
本稿では,新しいGNNアーキテクチャを提案する。このアーキテクチャでは,Emphforwardパスは,Emphboth陽性(典型的)と負陰性(アプローチに共通)のエッジに明示的に依存する。
これは、埋め込み自体を、正と負のサンプルの分離を好むフォワードパス特異的エネルギー関数の最小化子として再キャストすることで達成される。
論文 参考訳(メタデータ) (2023-10-14T07:02:54Z) - Improving Graph Neural Networks on Multi-node Tasks with Labeling Tricks [14.41064333206723]
GNNを適用する前に、まず、ターゲットノードセットとの関係に応じてグラフ内のノードをラベル付けするテキストラベリング手法を提案する。
本研究は,従来のノードラベル方式の優れた性能を説明し,GNNをマルチノード表現学習に活用するための理論的基盤を確立する。
論文 参考訳(メタデータ) (2023-04-20T04:03:40Z) - Link Prediction on Latent Heterogeneous Graphs [18.110053023118294]
潜時不均質グラフ(LHG)におけるリンク予測の難解で未探索な問題について検討する。
ノードとパスレベルにおけるセマンティック埋め込みという新しいアイデアに基づいて,LHGNNというモデルを提案し,ノード間の潜在セマンティックスをキャプチャする。
4つのベンチマークデータセットに対して広範な実験を行い、LHGNNの優れた性能を示す。
論文 参考訳(メタデータ) (2023-02-21T04:09:51Z) - GraFN: Semi-Supervised Node Classification on Graph with Few Labels via
Non-Parametric Distribution Assignment [5.879936787990759]
本研究では,グラフの半教師付き手法であるGraFNを提案し,同一クラスに属するノードをグループ化する。
GraFNはグラフ全体からラベル付きノードとアンカーノードからランダムにノードをサンプリングする。
実世界のグラフ上のノード分類において,GraFNが半教師付き手法と自己教師型手法のどちらよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-04-04T08:22:30Z) - A Variational Edge Partition Model for Supervised Graph Representation
Learning [51.30365677476971]
本稿では,重なり合うノード群間の相互作用を集約することで,観測されたエッジがどのように生成されるかをモデル化するグラフ生成プロセスを提案する。
それぞれのエッジを複数のコミュニティ固有の重み付きエッジの和に分割し、コミュニティ固有のGNNを定義する。
エッジを異なるコミュニティに分割するGNNベースの推論ネットワーク,これらのコミュニティ固有のGNN,およびコミュニティ固有のGNNを最終分類タスクに組み合わせたGNNベースの予測器を共同で学習するために,変分推論フレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-07T14:37:50Z) - Graph-MLP: Node Classification without Message Passing in Graph [28.604893350871777]
グラフニューラルネットワーク(GNN)は、非ユークリッド構造データを扱う上での有効性を実証している。
最近の研究は主に強力なメッセージパッシングモジュールに焦点を当てているが、この記事では、メッセージパッシングモジュールは必要ないことを示す。
本稿では,グラフ構造を利用した教師信号を用いた,純粋な多層パーセプトロンベースのGraph-MLPを提案する。
論文 参考訳(メタデータ) (2021-06-08T02:07:21Z) - Higher-Order Attribute-Enhancing Heterogeneous Graph Neural Networks [67.25782890241496]
異種ネットワーク表現学習のための高次属性強化グラフニューラルネットワーク(HAEGNN)を提案する。
HAEGNNは、リッチで異質なセマンティクスのためのメタパスとメタグラフを同時に組み込む。
ノード分類、ノードクラスタリング、可視化における最先端の手法よりも優れたパフォーマンスを示す。
論文 参考訳(メタデータ) (2021-04-16T04:56:38Z) - Metapath- and Entity-aware Graph Neural Network for Recommendation [10.583077434945187]
グラフニューラルネットワーク(GNN)では、メッセージが反復的に隣人のノードの情報を集約する。
このようなシーケンシャルなノード接続、例えばメタパスは、下流のタスクに対する重要な洞察を捉えます。
我々は,共同サブグラフ(CSG)とメタパスを用いてメタパス認識サブグラフを作成する。
PEAGNNは多層GNNを訓練し、そのようなサブグラフ上でメタパス認識情報アグリゲーションを行う。
論文 参考訳(メタデータ) (2020-10-22T15:14:30Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z) - Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。
本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。
このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
論文 参考訳(メタデータ) (2020-02-10T06:43:38Z) - Graph Inference Learning for Semi-supervised Classification [50.55765399527556]
半教師付きノード分類の性能を高めるためのグラフ推論学習フレームワークを提案する。
推論過程の学習には,トレーニングノードから検証ノードへの構造関係のメタ最適化を導入する。
4つのベンチマークデータセットの総合的な評価は、最先端の手法と比較して提案したGILの優位性を示している。
論文 参考訳(メタデータ) (2020-01-17T02:52:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。