論文の概要: On Recoverability of Graph Neural Network Representations
- arxiv url: http://arxiv.org/abs/2201.12843v1
- Date: Sun, 30 Jan 2022 15:22:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-01 17:12:55.369125
- Title: On Recoverability of Graph Neural Network Representations
- Title(参考訳): グラフニューラルネットワーク表現の復元性について
- Authors: Maxim Fishman, Chaim Baskin, Evgenii Zheltonozhskii, Ron Banner, Avi
Mendelson
- Abstract要約: 本稿では,GNNにおける情報集約と密接な関係を持つリカバリ可能性の概念を提案する。
様々なデータセットおよび異なるGNNアーキテクチャに関する実験結果を通じて、推定された回復可能性とアグリゲーション法表現性とグラフスカラー化品質の関係を実証する。
提案手法は、上記の問題の根源を理解する上で不可欠なツールとなり、それらを克服するGNN設計に繋がる可能性があると信じている。
- 参考スコア(独自算出の注目度): 9.02766568914452
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Despite their growing popularity, graph neural networks (GNNs) still have
multiple unsolved problems, including finding more expressive aggregation
methods, propagation of information to distant nodes, and training on
large-scale graphs. Understanding and solving such problems require developing
analytic tools and techniques. In this work, we propose the notion of
recoverability, which is tightly related to information aggregation in GNNs,
and based on this concept, develop the method for GNN embedding analysis. We
define recoverability theoretically and propose a method for its efficient
empirical estimation. We demonstrate, through extensive experimental results on
various datasets and different GNN architectures, that estimated recoverability
correlates with aggregation method expressivity and graph sparsification
quality. Therefore, we believe that the proposed method could provide an
essential tool for understanding the roots of the aforementioned problems, and
potentially lead to a GNN design that overcomes them. The code to reproduce our
experiments is available at https://github.com/Anonymous1252022/Recoverability
- Abstract(参考訳): その人気は高まっているが、グラフニューラルネットワーク(gnn)は、より表現力のある集約方法の発見、遠方のノードへの情報の伝播、大規模グラフのトレーニングなど、未解決の問題を数多く抱えている。
このような問題の理解と解決には分析ツールやテクニックの開発が必要である。
本稿では,GNNにおける情報集約と密接な関係を持つリカバリ可能性の概念を提案し,その概念に基づいて,GNN埋め込み解析の手法を開発した。
理論的に回復可能性を定義し,その効率的な経験的推定法を提案する。
様々なデータセットおよび異なるGNNアーキテクチャに関する広範な実験結果を通じて、推定された回復可能性とアグリゲーション手法の表現性およびグラフスペーシフィケーション品質の関係を実証する。
したがって,提案手法は,上記の問題の根源を理解する上で不可欠なツールとなり,それを克服するGNN設計に繋がる可能性が示唆された。
実験を再現するコードはhttps://github.com/匿名1252022/recoverabilityで利用可能です。
関連論文リスト
- Rewiring Techniques to Mitigate Oversquashing and Oversmoothing in GNNs: A Survey [0.0]
グラフニューラルネットワーク(GNN)は,グラフ構造化データから学習するための強力なツールだが,その有効性は2つの重要な課題によって制約されることが多い。
オーバーキャッシング(Oversquashing) – 遠いノードからの情報の過剰な圧縮が大きな情報損失と過度なスムース化をもたらし、繰り返しメッセージパッシングの繰り返しがノード表現を均質化し、意味のある区別を隠蔽する。
本研究では,グラフトポロジを改良して情報拡散を高めることで,これらの構造的ボトルネックに対処する手法であるグラフリウィリング手法について検討する。
論文 参考訳(メタデータ) (2024-11-26T13:38:12Z) - Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。
GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
論文 参考訳(メタデータ) (2024-11-19T08:32:14Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳(メタデータ) (2023-06-14T09:21:15Z) - A Survey on Explainability of Graph Neural Networks [4.612101932762187]
グラフニューラルネットワーク(GNN)は、グラフベースの強力なディープラーニングモデルである。
本調査は,GNNの既存の説明可能性技術の概要を概観することを目的としている。
論文 参考訳(メタデータ) (2023-06-02T23:36:49Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳(メタデータ) (2023-05-22T10:29:52Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳(メタデータ) (2022-09-23T05:24:18Z) - An Empirical Study of Retrieval-enhanced Graph Neural Networks [48.99347386689936]
グラフニューラルネットワーク(GNN)は、グラフ表現学習に有効なツールである。
本稿では,グラフニューラルネットワークモデルの選択に非依存な GraphRETRIEVAL という検索強化方式を提案する。
我々は13のデータセットに対して包括的な実験を行い、GRAPHRETRIEVALが既存のGNNよりも大幅に改善されていることを観察した。
論文 参考訳(メタデータ) (2022-06-01T09:59:09Z) - SEEN: Sharpening Explanations for Graph Neural Networks using
Explanations from Neighborhoods [0.0]
本稿では,補助的説明の集約によるノード分類タスクの説明品質の向上手法を提案する。
SEENを適用するにはグラフを変更する必要はなく、さまざまな説明可能性のテクニックで使用することができる。
与えられたグラフからモチーフ参加ノードをマッチングする実験では、説明精度が最大12.71%向上した。
論文 参考訳(メタデータ) (2021-06-16T03:04:46Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。