論文の概要: Permutohedral-GCN: Graph Convolutional Networks with Global Attention
- arxiv url: http://arxiv.org/abs/2003.00635v1
- Date: Mon, 2 Mar 2020 02:44:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-27 05:05:25.969515
- Title: Permutohedral-GCN: Graph Convolutional Networks with Global Attention
- Title（参考訳）: Permutohedral-GCN:グローバルな関心を持つグラフ畳み込みネットワーク
- Authors: Hesham Mostafa, Marcel Nassar
- Abstract要約: グラフ畳み込みネットワーク(GCN)は、グラフ内の隣人から機能を集約することで、ノードの特徴ベクトルを更新する。
我々は,ノードがグラフ内の他のノードから選択的に参加し,特徴を集約するグローバルアテンション機構を導入する。
得られた注意に基づくグローバルアグリゲーションスキームは高次元ガウスフィルタと類似していることを示す。
- 参考スコア（独自算出の注目度）: 7.873191259466302
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph convolutional networks (GCNs) update a node's feature vector by
aggregating features from its neighbors in the graph. This ignores potentially
useful contributions from distant nodes. Identifying such useful distant
contributions is challenging due to scalability issues (too many nodes can
potentially contribute) and oversmoothing (aggregating features from too many
nodes risks swamping out relevant information and may result in nodes having
different labels but indistinguishable features). We introduce a global
attention mechanism where a node can selectively attend to, and aggregate
features from, any other node in the graph. The attention coefficients depend
on the Euclidean distance between learnable node embeddings, and we show that
the resulting attention-based global aggregation scheme is analogous to
high-dimensional Gaussian filtering. This makes it possible to use efficient
approximate Gaussian filtering techniques to implement our attention-based
global aggregation scheme. By employing an approximate filtering method based
on the permutohedral lattice, the time complexity of our proposed global
aggregation scheme only grows linearly with the number of nodes. The resulting
GCNs, which we term permutohedral-GCNs, are differentiable and trained
end-to-end, and they achieve state of the art performance on several node
classification benchmarks.
- Abstract（参考訳）: グラフ畳み込みネットワーク(GCN)は、グラフ内の隣人から機能を集約することで、ノードの特徴ベクトルを更新する。
これにより、遠方のノードからの潜在的有用な貢献は無視される。
このような有用な遠方からのコントリビューションを特定することは、スケーラビリティの問題(多くのノードがコントリビューションする可能性がある)と過剰なスムース化(あまりにも多くのノードから機能を収集する)のため、難しい。
我々は,グラフ内の他のノードに対して,ノードが選択的に特徴に接し,集約できるグローバルアテンション機構を導入する。
注意係数は学習可能なノード埋め込み間のユークリッド距離に依存し,得られた注意に基づくグローバルアグリゲーションスキームは高次元ガウスフィルタと類似していることを示す。
これにより、注意に基づくグローバルアグリゲーションスキームを実装するために効率的な近似ガウスフィルタ技術を利用することができる。
ペルムトヘドラル格子に基づく近似フィルタリング法を用いることで,提案する大域集約スキームの時間複雑性はノード数に比例して増大する。
得られたGCNはPermutohedral-GCNと呼ばれ、識別可能であり、エンドツーエンドで訓練され、いくつかのノード分類ベンチマークで技術性能の状態を達成している。
関連論文リスト
- Scalable Graph Compressed Convolutions [68.85227170390864]
ユークリッド畳み込みのための入力グラフのキャリブレーションに置換を適用する微分可能手法を提案する。
グラフキャリブレーションに基づいて,階層型グラフ表現学習のための圧縮畳み込みネットワーク(CoCN)を提案する。
論文 参考訳（メタデータ） (2024-07-26T03:14:13Z) - Cluster-based Graph Collaborative Filtering [55.929052969825825]
グラフ畳み込みネットワーク(GCN)は、レコメンデーションシステムのためのユーザおよびアイテム表現の学習に成功している。
既存のGCNベースのほとんどのメソッドは、高階グラフ畳み込みを実行しながら、ユーザの複数の関心事を見落としている。
クラスタベースグラフ協調フィルタリング(ClusterGCF)と呼ばれる新しいGCNベースのレコメンデーションモデルを提案する。
論文 参考訳（メタデータ） (2024-04-16T07:05:16Z) - GraphRARE: Reinforcement Learning Enhanced Graph Neural Network with Relative Entropy [21.553180564868306]
GraphRAREはノード相対エントロピーと深層強化学習に基づいて構築されたフレームワークである。
革新的なノード相対エントロピーは、ノードペア間の相互情報を測定するために使用される。
グラフトポロジを最適化するために,深層強化学習に基づくアルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-12-15T11:30:18Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳（メタデータ） (2023-06-14T09:21:15Z) - Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。
そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
論文 参考訳（メタデータ） (2021-11-19T08:54:21Z) - Graph Pointer Neural Networks [11.656981519694218]
上述の課題に対処するために,グラフポインタニューラルネットワーク(GPNN)を提案する。
我々は、多数のマルチホップ地区から最も関連性の高いノードを選択するためにポインタネットワークを利用する。
GPNNは最先端手法の分類性能を著しく向上させる。
論文 参考訳（メタデータ） (2021-10-03T10:18:25Z) - Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised
Node Classification [59.06717774425588]
本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。
出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。
本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
論文 参考訳（メタデータ） (2021-07-27T19:47:53Z) - Node Similarity Preserving Graph Convolutional Networks [51.520749924844054]
グラフニューラルネットワーク(GNN)は、ノード近傍の情報を集約し変換することで、グラフ構造とノードの特徴を探索する。
グラフ構造を利用してノード類似性を効果的かつ効率的に保存できるSimP-GCNを提案する。
本研究は,SimP-GCNが3つの分類グラフと4つの非補助グラフを含む7つのベンチマークデータセットに対して有効であることを示す。
論文 参考訳（メタデータ） (2020-11-19T04:18:01Z) - Complete the Missing Half: Augmenting Aggregation Filtering with
Diversification for Graph Convolutional Networks [46.14626839260314]
我々は、現在のグラフニューラルネットワーク(GNN)が、特定のデータセットで学習するすべてのGNNメソッドの根底にある問題である可能性を示している。
集約操作をそれらの双対、すなわち、ノードをより明確にし、アイデンティティを保存する多様化演算子で拡張する。
このような拡張は、アグリゲーションを2チャネルのフィルタリングプロセスに置き換え、理論上、ノード表現を豊かにするのに役立つ。
実験では,モデルの望ましい特性と,9ノード分類タスクのベースライン上での大幅な性能向上について検討した。
論文 参考訳（メタデータ） (2020-08-20T08:45:16Z) - Graph Neural Networks with Composite Kernels [60.81504431653264]
カーネル重み付けの観点からノード集約を再解釈する。
本稿では,アグリゲーション方式における特徴類似性を考慮したフレームワークを提案する。
特徴空間における特徴類似性をエンコードするために,元の隣り合うカーネルと学習可能なカーネルの合成として特徴集約を提案する。
論文 参考訳（メタデータ） (2020-05-16T04:44:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。