論文の概要: How Framelets Enhance Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2102.06986v1
- Date: Sat, 13 Feb 2021 19:19:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-17 08:44:15.052013
- Title: How Framelets Enhance Graph Neural Networks
- Title(参考訳): フレームレットによるグラフニューラルネットワークの強化
- Authors: Xuebin Zheng, Bingxin Zhou, Junbin Gao, Yu Guang Wang, Pietro Lio,
Ming Li, Guido Montufar
- Abstract要約: 本稿では,フレームレット変換に基づくグラフニューラルネットワークの組み立て手法を提案する。
本稿では,フレームレット畳み込みのための新しいアクティベーションとして,異なるスケールで高周波情報をしきい値として縮小を提案する。
- 参考スコア(独自算出の注目度): 27.540282741523253
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper presents a new approach for assembling graph neural networks based
on framelet transforms. The latter provides a multi-scale representation for
graph-structured data. With the framelet system, we can decompose the graph
feature into low-pass and high-pass frequencies as extracted features for
network training, which then defines a framelet-based graph convolution. The
framelet decomposition naturally induces a graph pooling strategy by
aggregating the graph feature into low-pass and high-pass spectra, which
considers both the feature values and geometry of the graph data and conserves
the total information. The graph neural networks with the proposed framelet
convolution and pooling achieve state-of-the-art performance in many types of
node and graph prediction tasks. Moreover, we propose shrinkage as a new
activation for the framelet convolution, which thresholds the high-frequency
information at different scales. Compared to ReLU, shrinkage in framelet
convolution improves the graph neural network model in terms of denoising and
signal compression: noises in both node and structure can be significantly
reduced by accurately cutting off the high-pass coefficients from framelet
decomposition, and the signal can be compressed to less than half its original
size with the prediction performance well preserved.
- Abstract(参考訳): 本稿では,フレームレット変換に基づくグラフニューラルネットワークの組み立て手法を提案する。
後者はグラフ構造化データのマルチスケール表現を提供する。
フレームレットシステムでは,グラフ特徴を低域と高域の周波数に分解してネットワークトレーニングの抽出を行い,フレームレットに基づくグラフ畳み込みを定義する。
フレームレット分解はグラフ特徴を低域と高域のスペクトルに集約することでグラフプール戦略を自然に誘導し、グラフデータの特徴値と幾何の両方を考慮し、合計情報を保存する。
提案するフレームレット畳み込みとプーリングを用いたグラフニューラルネットワークは,様々なノードおよびグラフ予測タスクにおいて最先端のパフォーマンスを実現する。
さらに,フレームレット畳み込みのための新しいアクティベーションとして,異なるスケールで高周波情報をしきい値として縮小を提案する。
reluと比較して、フレームレット畳み込みの縮小は、デノイジングと信号圧縮の観点からグラフニューラルネットワークモデルを改善する: フレームレット分解から高パス係数を正確に切り離すことで、ノードと構造の両方のノイズを大幅に削減することができ、信号は予測性能が良く保存されたまま元の半分以下のサイズに圧縮することができる。
関連論文リスト
- Graph Transformer GANs with Graph Masked Modeling for Architectural
Layout Generation [153.92387500677023]
本稿では,グラフノード関係を効果的に学習するために,GTGAN(Graph Transformer Generative Adversarial Network)を提案する。
提案したグラフ変換器エンコーダは、局所的およびグローバルな相互作用をモデル化するために、Transformer内のグラフ畳み込みと自己アテンションを組み合わせる。
また,グラフ表現学習のための自己指導型事前学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-15T14:36:38Z) - Data-Adaptive Graph Framelets with Generalized Vanishing Moments for
Graph Signal Processing [2.039632659682125]
本稿では,階層的分割に基づく局所化サポート付きグラフ上でのタイトなフレームレットシステム構築のためのフレームワークを提案する。
我々の構成は、分割木に基づく非常に一般的なパラメタライズドグラフフレームレットシステムを提供する。
学習したグラフフレームレットシステムは,非線形近似および復号化タスクにおいて優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2023-09-07T07:49:43Z) - Structure-free Graph Condensation: From Large-scale Graphs to Condensed
Graph-free Data [91.27527985415007]
既存のグラフ凝縮法は、凝縮グラフ内のノードと構造の合同最適化に依存している。
我々は、大規模グラフを小さなグラフノード集合に蒸留する、SFGCと呼ばれる新しい構造自由グラフ凝縮パラダイムを提唱する。
論文 参考訳(メタデータ) (2023-06-05T07:53:52Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳(メタデータ) (2022-05-19T14:08:15Z) - Quasi-Framelets: Robust Graph Neural Networks via Adaptive Framelet Convolution [28.474359021962346]
スペクトルグラフニューラルネットワーク(GNN)のためのマルチスケールフレームレット畳み込みを提案する。
提案設計は、不要なスペクトル情報をフィルタリングし、ノイズグラフ信号の悪影響を著しく低減する。
ノイズの多いデータや敵攻撃に対する優れたレジリエンスを示しており、現実世界のグラフアプリケーションに対する堅牢なソリューションとしての可能性を強調している。
論文 参考訳(メタデータ) (2022-01-11T00:10:28Z) - Spectral Graph Convolutional Networks With Lifting-based Adaptive Graph
Wavelets [81.63035727821145]
スペクトルグラフ畳み込みネットワーク(SGCN)はグラフ表現学習において注目を集めている。
本稿では,適応グラフウェーブレットを用いたグラフ畳み込みを実装した新しいスペクトルグラフ畳み込みネットワークを提案する。
論文 参考訳(メタデータ) (2021-08-03T17:57:53Z) - Decimated Framelet System on Graphs and Fast G-Framelet Transforms [3.7277730514654555]
グラフ構造データに対する統計的あるいは機械学習モデルの学習性能には,グラフデータの適切な表現が不可欠である。
本稿では,グラフ上に局所化されたタイトフレームを形成するデシメーテッドフレームレットと呼ばれる,グラフデータのための新しい多スケール表現システムを提案する。
この効果は、トラフィックネットワークのマルチレゾリューション分析やグラフ分類タスクのグラフニューラルネットワークなど、現実世界のアプリケーションで実証されている。
論文 参考訳(メタデータ) (2020-12-12T23:57:17Z) - Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2020-10-06T01:20:27Z) - Representation Learning of Graphs Using Graph Convolutional Multilayer
Networks Based on Motifs [17.823543937167848]
mGCMNはノードの特徴情報とグラフの高階局所構造を利用する新しいフレームワークである。
グラフニューラルネットワークの学習効率を大幅に改善し、新たな学習モードの確立を促進する。
論文 参考訳(メタデータ) (2020-07-31T04:18:20Z) - Graph Pooling with Node Proximity for Hierarchical Representation
Learning [80.62181998314547]
本稿では,ノード近接を利用したグラフプーリング手法を提案し,そのマルチホップトポロジを用いたグラフデータの階層的表現学習を改善する。
その結果,提案したグラフプーリング戦略は,公開グラフ分類ベンチマークデータセットの集合において,最先端のパフォーマンスを達成できることが示唆された。
論文 参考訳(メタデータ) (2020-06-19T13:09:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。