論文の概要: Geometric Scattering Attention Networks
- arxiv url: http://arxiv.org/abs/2010.15010v2
- Date: Wed, 19 Jan 2022 11:23:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-02 04:55:14.456937
- Title: Geometric Scattering Attention Networks
- Title(参考訳): 幾何学散乱注意ネットワーク
- Authors: Yimeng Min, Frederik Wenkel, Guy Wolf
- Abstract要約: 適応的なタスク駆動ノード表現を生成するための新しいアテンションベースアーキテクチャを提案する。
得られた幾何散乱注意ネットワーク(GSAN)は、半教師付きノード分類において、以前のネットワークより優れていることを示す。
- 参考スコア(独自算出の注目度): 14.558882688159297
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Geometric scattering has recently gained recognition in graph representation
learning, and recent work has shown that integrating scattering features in
graph convolution networks (GCNs) can alleviate the typical oversmoothing of
features in node representation learning. However, scattering often relies on
handcrafted design, requiring careful selection of frequency bands via a
cascade of wavelet transforms, as well as an effective weight sharing scheme to
combine low- and band-pass information. Here, we introduce a new
attention-based architecture to produce adaptive task-driven node
representations by implicitly learning node-wise weights for combining multiple
scattering and GCN channels in the network. We show the resulting geometric
scattering attention network (GSAN) outperforms previous networks in
semi-supervised node classification, while also enabling a spectral study of
extracted information by examining node-wise attention weights.
- Abstract(参考訳): 幾何散乱は近年,グラフ表現学習において認識され,近年の研究では,グラフ畳み込みネットワーク(GCN)における散乱特徴の統合により,ノード表現学習における特徴の過度な過剰化を軽減できることが示されている。
しかし、散乱はしばしば手作りの設計に依拠し、ウェーブレット変換のカスケードによる周波数帯域の慎重な選択と、低域と帯域通過情報を結合する効果的な重みの共有が必要となる。
本稿では,ネットワーク内の多重散乱とGCNチャネルを組み合わせたノードの重み付けを暗黙的に学習することにより,適応的なタスク駆動ノード表現を生成する新しいアテンションベースアーキテクチャを提案する。
結果として得られた幾何散乱注意ネットワーク (gsan) は, 半教師付きノード分類において従来のネットワークを上回り, ノード毎の注意重みを調べることにより抽出情報のスペクトル分析を可能にしている。
関連論文リスト
- Point Cloud Denoising With Fine-Granularity Dynamic Graph Convolutional Networks [58.050130177241186]
ノイズの摂動は、しばしば3次元の点雲を破損させ、表面の再構成、レンダリング、さらなる処理といった下流のタスクを妨げる。
本稿では,GDGCNと呼ばれる粒度動的グラフ畳み込みネットワークについて紹介する。
論文 参考訳(メタデータ) (2024-11-21T14:19:32Z) - NetDiff: Deep Graph Denoising Diffusion for Ad Hoc Network Topology Generation [1.6768151308423371]
本稿では,無線アドホックネットワークリンクトポロジを生成する拡散確率的アーキテクチャを記述したグラフであるNetDiffを紹介する。
この結果から,生成したリンクは現実的であり,データセットグラフに類似した構造的特性を有しており,操作するには小さな修正と検証ステップのみが必要であることがわかった。
論文 参考訳(メタデータ) (2024-10-09T15:39:49Z) - Learnable Filters for Geometric Scattering Modules [64.03877398967282]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2022-08-15T22:30:07Z) - Rewiring Networks for Graph Neural Network Training Using Discrete
Geometry [0.0]
情報オーバースカッシングはグラフニューラルネットワーク(GNN)のトレーニングに大きな影響を与える問題である
本稿では,ネットワーク上の情報の流れをモデル化し,それらを再構成するために,古典幾何学的な曲率の概念の離散アナログを用いて検討する。
これらの古典的概念は、様々な実世界のネットワークデータセット上でのGNNトレーニング精度において、最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2022-07-16T21:50:39Z) - Overcoming Oversmoothness in Graph Convolutional Networks via Hybrid
Scattering Networks [11.857894213975644]
本稿では,従来のGCNフィルタと幾何散乱変換を用いて定義された帯域通過フィルタを組み合わせたハイブリッドグラフニューラルネットワーク(GNN)フレームワークを提案する。
理論的には, グラフからの構造情報を活用するために散乱フィルタの相補的な利点が確立され, 実験では様々な学習課題における手法の利点が示された。
論文 参考訳(メタデータ) (2022-01-22T00:47:41Z) - Spectral Graph Convolutional Networks With Lifting-based Adaptive Graph
Wavelets [81.63035727821145]
スペクトルグラフ畳み込みネットワーク(SGCN)はグラフ表現学習において注目を集めている。
本稿では,適応グラフウェーブレットを用いたグラフ畳み込みを実装した新しいスペクトルグラフ畳み込みネットワークを提案する。
論文 参考訳(メタデータ) (2021-08-03T17:57:53Z) - Spectral-Spatial Global Graph Reasoning for Hyperspectral Image
Classification [50.899576891296235]
畳み込みニューラルネットワークは、ハイパースペクトル画像分類に広く応用されている。
近年の手法は空間トポロジのグラフ畳み込みによってこの問題に対処しようとしている。
論文 参考訳(メタデータ) (2021-06-26T06:24:51Z) - Spatio-Temporal Inception Graph Convolutional Networks for
Skeleton-Based Action Recognition [126.51241919472356]
我々はスケルトンに基づく行動認識のためのシンプルで高度にモジュール化されたグラフ畳み込みネットワークアーキテクチャを設計する。
ネットワークは,空間的および時間的経路から多粒度情報を集約するビルディングブロックを繰り返すことで構築される。
論文 参考訳(メタデータ) (2020-11-26T14:43:04Z) - Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2020-10-06T01:20:27Z) - Scattering GCN: Overcoming Oversmoothness in Graph Convolutional
Networks [0.0]
グラフ畳み込みネットワーク(GCN)は,構造認識の特徴を抽出することによって,グラフデータ処理において有望な結果を示した。
本稿では、幾何学的散乱変換と残差畳み込みによる従来のGCNの増大を提案する。
前者はグラフ信号の帯域通過フィルタリングが可能であり、GCNでしばしば発生する過度な過度な処理を緩和する。
論文 参考訳(メタデータ) (2020-03-18T18:03:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。