論文の概要: Scattering GCN: Overcoming Oversmoothness in Graph Convolutional
Networks
- arxiv url: http://arxiv.org/abs/2003.08414v4
- Date: Tue, 18 Jan 2022 21:07:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-22 09:41:40.795813
- Title: Scattering GCN: Overcoming Oversmoothness in Graph Convolutional
Networks
- Title(参考訳): 散乱gcn:グラフ畳み込みネットワークにおける過度を克服する
- Authors: Yimeng Min (1), Frederik Wenkel (2 and 1), Guy Wolf (2 and 1) ((1)
Mila - Quebec AI Institute, Montr\'eal, QC, Canada, (2) Department of
Mathematics & Statistics, Universit\'e de Montr\'eal, Montr\'eal, QC, Canada)
- Abstract要約: グラフ畳み込みネットワーク(GCN)は,構造認識の特徴を抽出することによって,グラフデータ処理において有望な結果を示した。
本稿では、幾何学的散乱変換と残差畳み込みによる従来のGCNの増大を提案する。
前者はグラフ信号の帯域通過フィルタリングが可能であり、GCNでしばしば発生する過度な過度な処理を緩和する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph convolutional networks (GCNs) have shown promising results in
processing graph data by extracting structure-aware features. This gave rise to
extensive work in geometric deep learning, focusing on designing network
architectures that ensure neuron activations conform to regularity patterns
within the input graph. However, in most cases the graph structure is only
accounted for by considering the similarity of activations between adjacent
nodes, which limits the capabilities of such methods to discriminate between
nodes in a graph. Here, we propose to augment conventional GCNs with geometric
scattering transforms and residual convolutions. The former enables band-pass
filtering of graph signals, thus alleviating the so-called oversmoothing often
encountered in GCNs, while the latter is introduced to clear the resulting
features of high-frequency noise. We establish the advantages of the presented
Scattering GCN with both theoretical results establishing the complementary
benefits of scattering and GCN features, as well as experimental results
showing the benefits of our method compared to leading graph neural networks
for semi-supervised node classification, including the recently proposed GAT
network that typically alleviates oversmoothing using graph attention
mechanisms.
- Abstract(参考訳): グラフ畳み込みネットワーク(GCN)は,構造認識の特徴を抽出することによって,グラフデータ処理において有望な結果を示した。
これは幾何学的深層学習において、入力グラフ内の規則性パターンにニューロンの活性化が準拠することを保証するネットワークアーキテクチャの設計に焦点が当てられた。
しかし、ほとんどの場合、グラフ構造は隣接ノード間のアクティベーションの類似性を考慮することでのみ説明される。
本稿では、幾何学的散乱変換と残差畳み込みによる従来のGCNの増大を提案する。
前者はグラフ信号の帯域通過フィルタリングが可能で、GCNでしばしば発生する過度な過度な処理を軽減し、後者は高周波ノイズの結果として生じる特徴を明らかにするために導入された。
提案したScattering GCNの利点は,散乱特性とGCN特徴の相補的利点を確立する理論的結果と,グラフアテンション機構を用いた過度なスムース化を緩和するGATネットワークを含む半教師付きノード分類におけるグラフニューラルネットワークと比較して,本手法の利点を示す実験結果の両方によって確立される。
関連論文リスト
- Demystifying Oversmoothing in Attention-Based Graph Neural Networks [26.05838461066413]
グラフニューラルネットワーク(GNN)におけるオーバースムーシング(Oversmoothing in Graph Neural Networks)とは、ネットワーク深度の増加がノードの均質表現につながる現象である。
これまでの研究により、グラフ畳み込みネットワーク(GCN)は指数関数的に表現力を失うことが判明した。
グラフアテンション機構が過剰なスムースを緩和できるかどうかはまだ議論の余地がある。
論文 参考訳(メタデータ) (2023-05-25T14:31:59Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳(メタデータ) (2023-05-22T10:29:52Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳(メタデータ) (2022-09-23T05:24:18Z) - Overcoming Oversmoothness in Graph Convolutional Networks via Hybrid
Scattering Networks [11.857894213975644]
本稿では,従来のGCNフィルタと幾何散乱変換を用いて定義された帯域通過フィルタを組み合わせたハイブリッドグラフニューラルネットワーク(GNN)フレームワークを提案する。
理論的には, グラフからの構造情報を活用するために散乱フィルタの相補的な利点が確立され, 実験では様々な学習課題における手法の利点が示された。
論文 参考訳(メタデータ) (2022-01-22T00:47:41Z) - SStaGCN: Simplified stacking based graph convolutional networks [2.556756699768804]
グラフ畳み込みネットワーク(GCN)は、様々なグラフ構造データ学習タスクにおいて広く研究されている強力なモデルである。
本稿では, SStaGCN (Simplified stacking based GCN) と呼ばれる新しいGCNを提案する。
SStaGCNはGCNの過密問題を効果的に軽減できることを示す。
論文 参考訳(メタデータ) (2021-11-16T05:00:08Z) - Graph Neural Networks for Graph Drawing [17.983238300054527]
グラフニューラルネットワーク(GND)の開発のための新しいフレームワークを提案する。
GNDは、効率的で複雑な地図を構築するために、ニューラルネットワークに依存している。
このメカニズムは、フィードフォワードニューラルネットワークによって計算された損失関数によって導出可能であることを実証する。
論文 参考訳(メタデータ) (2021-09-21T09:58:02Z) - Spectral Graph Convolutional Networks With Lifting-based Adaptive Graph
Wavelets [81.63035727821145]
スペクトルグラフ畳み込みネットワーク(SGCN)はグラフ表現学習において注目を集めている。
本稿では,適応グラフウェーブレットを用いたグラフ畳み込みを実装した新しいスペクトルグラフ畳み込みネットワークを提案する。
論文 参考訳(メタデータ) (2021-08-03T17:57:53Z) - Spectral-Spatial Global Graph Reasoning for Hyperspectral Image
Classification [50.899576891296235]
畳み込みニューラルネットワークは、ハイパースペクトル画像分類に広く応用されている。
近年の手法は空間トポロジのグラフ畳み込みによってこの問題に対処しようとしている。
論文 参考訳(メタデータ) (2021-06-26T06:24:51Z) - Geometric Scattering Attention Networks [14.558882688159297]
適応的なタスク駆動ノード表現を生成するための新しいアテンションベースアーキテクチャを提案する。
得られた幾何散乱注意ネットワーク(GSAN)は、半教師付きノード分類において、以前のネットワークより優れていることを示す。
論文 参考訳(メタデータ) (2020-10-28T14:36:40Z) - Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2020-10-06T01:20:27Z) - Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文 参考訳(メタデータ) (2020-04-19T09:43:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。