Fugu-MT 論文翻訳(概要): Hop-Aware Dimension Optimization for Graph Neural Networks

論文の概要: Hop-Aware Dimension Optimization for Graph Neural Networks

arxiv url: http://arxiv.org/abs/2105.14490v1
Date: Sun, 30 May 2021 10:12:56 GMT
ステータス: 処理完了
システム内更新日: 2021-06-01 17:05:19.647517
Title: Hop-Aware Dimension Optimization for Graph Neural Networks
Title（参考訳）: グラフニューラルネットワークのホップ対応次元最適化
Authors: Ailing Zeng, Minhao Liu, Zhiwei Liu, Ruiyuan Gao, Qiang Xu
Abstract要約: LADDER-GNNという,単純で効果的なラグスタイルのGNNアーキテクチャを提案する。具体的には、異なるホップからメッセージを分離し、ノード表現を得るためにそれらを結合する前に異なる次元を割り当てます。その結果,提案した単純なホップ認識型表現学習ソリューションは,ほとんどのデータセットで最先端のパフォーマンスを達成できることが示唆された。
参考スコア（独自算出の注目度）: 11.341455005324104
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In Graph Neural Networks (GNNs), the embedding of each node is obtained by aggregating information with its direct and indirect neighbors. As the messages passed among nodes contain both information and noise, the critical issue in GNN representation learning is how to retrieve information effectively while suppressing noise. Generally speaking, interactions with distant nodes usually introduce more noise for a particular node than those with close nodes. However, in most existing works, the messages being passed among nodes are mingled together, which is inefficient from a communication perspective. Mixing the information from clean sources (low-order neighbors) and noisy sources (high-order neighbors) makes discriminative feature extraction challenging. Motivated by the above, we propose a simple yet effective ladder-style GNN architecture, namely LADDER-GNN. Specifically, we separate messages from different hops and assign different dimensions for them before concatenating them to obtain the node representation. Such disentangled representations facilitate extracting information from messages passed from different hops, and their corresponding dimensions are determined with a reinforcement learning-based neural architecture search strategy. The resulted hop-aware representations generally contain more dimensions for low-order neighbors and fewer dimensions for high-order neighbors, leading to a ladder-style aggregation scheme. We verify the proposed LADDER-GNN on several semi-supervised node classification datasets. Experimental results show that the proposed simple hop-aware representation learning solution can achieve state-of-the-art performance on most datasets.
Abstract（参考訳）: グラフニューラルネットワーク(gnns)では、情報をその直接および間接の隣接ノードに集約することで、各ノードの埋め込みを得る。ノード間で渡されるメッセージには情報とノイズの両方が含まれているため、GNN表現学習における重要な問題は、ノイズを抑えながら情報を効果的に取得する方法である。一般に、遠いノードとの相互作用は、近接ノードを持つノードよりも特定のノードにノイズをもたらす。しかし、既存のほとんどの作業では、ノード間で渡されるメッセージは混ざり合わされ、通信の観点からは非効率である。クリーンソース(低次の隣人)とノイズソース(高次隣人)からの情報を混合することは、識別的特徴抽出を困難にする。以上のことを動機として,LADDER-GNNという,単純で効果的なはしご型GNNアーキテクチャを提案する。具体的には、異なるホップからメッセージを分離し、それらを結合する前に異なる次元を割り当ててノード表現を得る。このような不整合表現は、異なるホップから渡されたメッセージから情報を抽出し、その対応する次元を強化学習に基づくニューラルネットワーク探索戦略で決定する。結果として得られるホップ対応表現は一般に、低階隣人に対してより多くの次元と高階隣人に対してより少ない次元を含む。提案するLADDER-GNNを,複数の半教師付きノード分類データセット上で検証する。実験の結果,提案する単純なホップアウェア表現学習ソリューションは,ほとんどのデータセットにおいて最先端のパフォーマンスを達成できることがわかった。

関連論文リスト

NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文参考訳（メタデータ） (2023-06-14T09:21:15Z)
Seq-HGNN: Learning Sequential Node Representation on Heterogeneous Graph [57.2953563124339]
本稿では,シーケンシャルノード表現,すなわちSeq-HGNNを用いた新しい異種グラフニューラルネットワークを提案する。 Heterogeneous Graph Benchmark (HGB) と Open Graph Benchmark (OGB) の4つの広く使われているデータセットについて広範な実験を行った。
論文参考訳（メタデータ） (2023-05-18T07:27:18Z)
NDGGNET-A Node Independent Gate based Graph Neural Networks [6.155450481110693]
疎結合なノードでは、単一のGNN層を通して十分な情報を得るのは難しい。この論文では、通常のGNNモデルでより多くのレイヤに対応可能な新しいフレームワークを定義する。実験結果から,提案モデルがモデル深度を効果的に向上し,複数のデータセットで良好に動作できることが示唆された。
論文参考訳（メタデータ） (2022-05-11T08:51:04Z)
Graph Ordering Attention Networks [22.468776559433614]
グラフニューラルネットワーク(GNN)は、グラフ構造化データに関わる多くの問題でうまく使われている。近隣ノード間のインタラクションをキャプチャする新しいGNNコンポーネントであるグラフ順序付け注意層(GOAT)を導入する。 GOATレイヤは、複雑な情報をキャプチャするグラフメトリクスのモデリングにおけるパフォーマンスの向上を示す。
論文参考訳（メタデータ） (2022-04-11T18:13:19Z)
Graph Pointer Neural Networks [11.656981519694218]
上述の課題に対処するために,グラフポインタニューラルネットワーク(GPNN)を提案する。我々は、多数のマルチホップ地区から最も関連性の高いノードを選択するためにポインタネットワークを利用する。 GPNNは最先端手法の分類性能を著しく向上させる。
論文参考訳（メタデータ） (2021-10-03T10:18:25Z)
Reasoning Graph Networks for Kinship Verification: from Star-shaped to Hierarchical [85.0376670244522]
階層型推論グラフネットワークの学習による顔の親和性検証の問題点について検討する。より強力で柔軟なキャパシティを利用するために,星型推論グラフネットワーク(S-RGN)を開発した。また、より強力で柔軟なキャパシティを利用する階層型推論グラフネットワーク(H-RGN)も開発しています。
論文参考訳（メタデータ） (2021-09-06T03:16:56Z)
Higher-Order Attribute-Enhancing Heterogeneous Graph Neural Networks [67.25782890241496]
異種ネットワーク表現学習のための高次属性強化グラフニューラルネットワーク(HAEGNN)を提案する。 HAEGNNは、リッチで異質なセマンティクスのためのメタパスとメタグラフを同時に組み込む。ノード分類、ノードクラスタリング、可視化における最先端の手法よりも優れたパフォーマンスを示す。
論文参考訳（メタデータ） (2021-04-16T04:56:38Z)
Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文参考訳（メタデータ） (2021-01-06T03:05:37Z)
NCGNN: Node-level Capsule Graph Neural Network [45.23653314235767]
ノードレベルカプセルグラフニューラルネットワーク(ncgnn)は、ノードをカプセル群として表現する。凝集に適したカプセルを適応的に選択する新しい動的ルーティング手法を開発した。 NCGNNは、過度にスムースな問題に対処でき、分類のためのより良いノード埋め込みを生成することで、芸術の状態を上回ります。
論文参考訳（メタデータ） (2020-12-07T06:46:17Z)
GAIN: Graph Attention & Interaction Network for Inductive Semi-Supervised Learning over Large-scale Graphs [18.23435958000212]
グラフニューラルネットワーク(GNN)は、推薦、ノード分類、リンク予測など、さまざまな機械学習タスクにおいて最先端のパフォーマンスを実現している。既存のGNNモデルの多くは、隣接するノード情報を集約するために単一のタイプのアグリゲータを利用している。本稿では,グラフ上の帰納学習のための新しいグラフニューラルネットワークアーキテクチャであるグラフ注意と相互作用ネットワーク(GAIN)を提案する。
論文参考訳（メタデータ） (2020-11-03T00:20:24Z)
Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
論文参考訳（メタデータ） (2020-06-26T17:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。