Fugu-MT 論文翻訳(概要): Labeling Trick: A Theory of Using Graph Neural Networks for Multi-Node Representation Learning

論文の概要: Labeling Trick: A Theory of Using Graph Neural Networks for Multi-Node Representation Learning

arxiv url: http://arxiv.org/abs/2010.16103v5
Date: Sat, 15 Jan 2022 15:23:39 GMT
ステータス: 処理完了
システム内更新日: 2022-10-01 17:12:48.226749
Title: Labeling Trick: A Theory of Using Graph Neural Networks for Multi-Node Representation Learning
Title（参考訳）: Labeling Trick:マルチノード表現学習におけるグラフニューラルネットワークの利用の理論
Authors: Muhan Zhang, Pan Li, Yinglong Xia, Kai Wang, Long Jin
Abstract要約: マルチノード表現学習にグラフニューラルネットワーク(GNN)を用いる理論を提案する。以前の研究では、GNNが獲得した単一ノード表現を直接結合ノードセット表現に集約することが一般的であった。これらのノードラベリングテクニックを,単一かつ最も一般的な形式 – ラベル付けトリック – に統合します。
参考スコア（独自算出の注目度）: 26.94699471990803
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this paper, we provide a theory of using graph neural networks (GNNs) for multi-node representation learning (where we are interested in learning a representation for a set of more than one node, such as link). We know that GNN is designed to learn single-node representations. When we want to learn a node set representation involving multiple nodes, a common practice in previous works is to directly aggregate the single-node representations obtained by a GNN into a joint node set representation. In this paper, we show a fundamental constraint of such an approach, namely the inability to capture the dependence between nodes in the node set, and argue that directly aggregating individual node representations does not lead to an effective joint representation for multiple nodes. Then, we notice that a few previous successful works for multi-node representation learning, including SEAL, Distance Encoding, and ID-GNN, all used node labeling. These methods first label nodes in the graph according to their relationships with the target node set before applying a GNN. Then, the node representations obtained in the labeled graph are aggregated into a node set representation. By investigating their inner mechanisms, we unify these node labeling techniques into a single and most general form -- labeling trick. We prove that with labeling trick a sufficiently expressive GNN learns the most expressive node set representations, thus in principle solves any joint learning tasks over node sets. Experiments on one important two-node representation learning task, link prediction, verified our theory. Our work explains the superior performance of previous node-labeling-based methods, and establishes a theoretical foundation of using GNNs for multi-node representation learning.
Abstract（参考訳）: 本稿では,多ノード表現学習におけるグラフニューラルネットワーク(GNN)の利用理論について述べる(リンクなど複数のノードの集合に対する表現の学習に関心がある)。 GNNは単一ノード表現を学習するために設計されている。複数のノードを含むノード集合表現を学習したい場合、GNNが取得した単一ノード表現を直接結合ノード集合表現に集約する、という従来の手法が一般的である。本稿では,ノード集合内のノード間の依存を捕捉できないという,そのようなアプローチの基本的制約を示し,個々のノード表現を直接集約することは,複数のノードに対して効果的な共同表現に繋がらないと主張している。次に,SEAL,Distance Encoding,ID-GNNなど,従来のマルチノード表現学習の成功例について述べる。これらの手法は、gnnを適用する前に、まずターゲットノードセットとの関係に基づいてグラフ内のノードをラベル付けする。そして、ラベル付きグラフで得られたノード表現をノード集合表現に集約する。内部機構を調べることで、これらのノードラベリング技術を単一の最も一般的な形式 -- ラベル付けトリックに統一します。ラベル付けトリックにより、十分に表現力のあるGNNは最も表現力のあるノード集合表現を学習し、原則としてノード集合上の共同学習タスクを解く。重要な2ノード表現学習タスクであるリンク予測実験を行い,その理論を検証した。本研究は,従来のノードラベル方式の優れた性能を説明し,GNNを用いたマルチノード表現学習の理論的基礎を確立する。

関連論文リスト

Contrastive Meta-Learning for Few-shot Node Classification [54.36506013228169]
少ないショットノード分類は、限定されたラベル付きノードのみを参照としてグラフ上のノードのラベルを予測することを目的としている。グラフ上にCOSMICという新しい対照的なメタラーニングフレームワークを2つの重要な設計で作成する。
論文参考訳（メタデータ） (2023-06-27T02:22:45Z)
Seq-HGNN: Learning Sequential Node Representation on Heterogeneous Graph [57.2953563124339]
本稿では,シーケンシャルノード表現,すなわちSeq-HGNNを用いた新しい異種グラフニューラルネットワークを提案する。 Heterogeneous Graph Benchmark (HGB) と Open Graph Benchmark (OGB) の4つの広く使われているデータセットについて広範な実験を行った。
論文参考訳（メタデータ） (2023-05-18T07:27:18Z)
Improving Graph Neural Networks on Multi-node Tasks with Labeling Tricks [14.41064333206723]
GNNを適用する前に、まず、ターゲットノードセットとの関係に応じてグラフ内のノードをラベル付けするテキストラベリング手法を提案する。本研究は,従来のノードラベル方式の優れた性能を説明し,GNNをマルチノード表現学習に活用するための理論的基盤を確立する。
論文参考訳（メタデータ） (2023-04-20T04:03:40Z)
GraFN: Semi-Supervised Node Classification on Graph with Few Labels via Non-Parametric Distribution Assignment [5.879936787990759]
本研究では,グラフの半教師付き手法であるGraFNを提案し,同一クラスに属するノードをグループ化する。 GraFNはグラフ全体からラベル付きノードとアンカーノードからランダムにノードをサンプリングする。実世界のグラフ上のノード分類において,GraFNが半教師付き手法と自己教師型手法のどちらよりも優れていることを示す。
論文参考訳（メタデータ） (2022-04-04T08:22:30Z)
Inferential SIR-GN: Scalable Graph Representation Learning [0.4699313647907615]
グラフ表現学習法は、ネットワーク内のノードの数値ベクトル表現を生成する。本研究では,ランダムグラフ上で事前学習されたモデルであるInferential SIR-GNを提案し,ノード表現を高速に計算する。このモデルではノードの構造的役割情報を捉えることができ、ノードやグラフの分類タスクにおいて、目に見えないネットワーク上で優れた性能を示すことができる。
論文参考訳（メタデータ） (2021-11-08T20:56:37Z)
Position-based Hash Embeddings For Scaling Graph Neural Networks [8.87527266373087]
グラフニューラルネットワーク(GNN)は、ノードのエゴネットワークのトポロジとエゴネットワークのノードの特徴を考慮したノード表現を演算する。ノードが高品質な機能を持っていない場合、GNNはノードの埋め込みを計算するために埋め込み層を学び、それらを入力機能として使用する。この埋め込みレイヤに関連するメモリを削減するため、NLPやレコメンダシステムのようなアプリケーションで一般的に使用されるハッシュベースのアプローチが利用可能である。本稿では,グラフ内のノードの位置を利用して,必要なメモリを大幅に削減する手法を提案する。
論文参考訳（メタデータ） (2021-08-31T22:42:25Z)
Multi-grained Semantics-aware Graph Neural Networks [13.720544777078642]
グラフニューラルネットワーク(GNN)は、グラフの表現学習において強力な技術である。本研究では,ノードとグラフ表現を対話的に学習する統合モデルAdamGNNを提案する。 14の実世界のグラフデータセットに対する実験により、AdamGNNはノードとグラフの両方のタスクにおいて17の競合するモデルを大幅に上回っていることが示された。
論文参考訳（メタデータ） (2020-10-01T07:52:06Z)
CatGCN: Graph Convolutional Networks with Categorical Node Features [99.555850712725]
CatGCNはグラフ学習に適したノード機能である。エンドツーエンドでCatGCNを訓練し、半教師付きノード分類でそれを実証する。
論文参考訳（メタデータ） (2020-09-11T09:25:17Z)
Distance Encoding: Design Provably More Powerful Neural Networks for Graph Representation Learning [63.97983530843762]
グラフニューラルネットワーク(GNN)はグラフ表現学習において大きな成功を収めている。 GNNは、実際には非常に異なるグラフ部分構造に対して同一の表現を生成する。より強力なGNNは、最近高階試験を模倣して提案され、基礎となるグラフ構造を疎結合にできないため、非効率である。本稿では,グラフ表現学習の新たなクラスとして距離分解(DE)を提案する。
論文参考訳（メタデータ） (2020-08-31T23:15:40Z)
Towards Deeper Graph Neural Networks with Differentiable Group Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。 2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文参考訳（メタデータ） (2020-06-12T07:18:02Z)
Graph Inference Learning for Semi-supervised Classification [50.55765399527556]
半教師付きノード分類の性能を高めるためのグラフ推論学習フレームワークを提案する。推論過程の学習には,トレーニングノードから検証ノードへの構造関係のメタ最適化を導入する。 4つのベンチマークデータセットの総合的な評価は、最先端の手法と比較して提案したGILの優位性を示している。
論文参考訳（メタデータ） (2020-01-17T02:52:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。