論文の概要: Graph Unitary Message Passing
- arxiv url: http://arxiv.org/abs/2403.11199v1
- Date: Sun, 17 Mar 2024 12:55:23 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-19 18:06:05.331582
- Title: Graph Unitary Message Passing
- Title(参考訳): Graph Unitary Message Passing
- Authors: Haiquan Qiu, Yatao Bian, Quanming Yao,
- Abstract要約: メッセージパッシングにユニタリ隣接行列を適用することにより、GNNにおけるオーバースカッシングを軽減するグラフユニタリメッセージパッシング(GUMP)を提案する。
各種グラフ学習におけるGUMPの有効性を示す実験を行った。
- 参考スコア(独自算出の注目度): 40.33431252469782
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Message passing mechanism contributes to the success of GNNs in various applications, but also brings the oversquashing problem. Recent works combat oversquashing by improving the graph spectrums with rewiring techniques, disrupting the structural bias in graphs, and having limited improvement on oversquashing in terms of oversquashing measure. Motivated by unitary RNN, we propose Graph Unitary Message Passing (GUMP) to alleviate oversquashing in GNNs by applying unitary adjacency matrix for message passing. To design GUMP, a transformation is first proposed to make general graphs have unitary adjacency matrix and keep its structural bias. Then, unitary adjacency matrix is obtained with a unitary projection algorithm, which is implemented by utilizing the intrinsic structure of unitary adjacency matrix and allows GUMP to be permutation-equivariant. Experimental results show the effectiveness of GUMP in improving the performance on various graph learning tasks.
- Abstract(参考訳): メッセージパッシング機構は、様々なアプリケーションにおけるGNNの成功に寄与するが、過度な問題をもたらす。
最近の研究は、グラフスペクトルをリウィリング技術で改善し、グラフの構造バイアスを乱し、オーバーシャッシングの度合いを制限してオーバーシャッシングに対処している。
ユニタリRNNによってモチベーションされたグラフユニタリメッセージパッシング(GUMP)は、メッセージパッシングにユニタリ隣接行列を適用することにより、GNNのオーバーカッシングを軽減する。
GUMPを設計するために、一般化グラフにユニタリ隣接行列を持ち、その構造バイアスを維持するための変換が最初に提案されている。
そして、一元的隣接行列の内在構造を利用して実装し、GUMPを置換同変にするユニタリ射影アルゴリズムを用いて一元的隣接行列を得る。
実験結果から,GUMPが各種グラフ学習タスクの性能向上に有効であることが確認された。
関連論文リスト
- Learning to Reweight for Graph Neural Network [63.978102332612906]
グラフニューラルネットワーク(GNN)は、グラフタスクに対して有望な結果を示す。
既存のGNNの一般化能力は、テストとトレーニンググラフデータの間に分散シフトが存在する場合に低下する。
本稿では,分布外一般化能力を大幅に向上させる非線形グラフデコリレーション法を提案する。
論文 参考訳(メタデータ) (2023-12-19T12:25:10Z) - Robust Graph Neural Network based on Graph Denoising [10.564653734218755]
グラフニューラルネットワーク(GNN)は、非ユークリッドデータセットを扱う学習問題に対して、悪名高い代替手段として登場した。
本研究は,観測トポロジにおける摂動の存在を明示的に考慮した,GNNの堅牢な実装を提案する。
論文 参考訳(メタデータ) (2023-12-11T17:43:57Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳(メタデータ) (2023-05-22T10:29:52Z) - Rethinking Graph Lottery Tickets: Graph Sparsity Matters [22.494153884469288]
Lottery Ticket hypothesis (LTH) は、オリジナルの高密度ネットワークに対する競争性能を達成できる勝利チケットの存在を主張している。
本稿では,グラフ間隔が高い場合のGNN性能を改善するための2つの手法を提案する。
論文 参考訳(メタデータ) (2023-05-03T15:35:15Z) - OrthoReg: Improving Graph-regularized MLPs via Orthogonality
Regularization [66.30021126251725]
グラフニューラルネットワーク(GNN)は現在、グラフ構造データのモデリングにおいて支配的である。
グラフ正規化ネットワーク(GR-MLP)はグラフ構造情報をモデル重みに暗黙的に注入するが、その性能はほとんどのタスクにおいてGNNとほとんど一致しない。
GR-MLPは,最大数個の固有値が埋め込み空間を支配する現象である次元崩壊に苦しむことを示す。
次元崩壊問題を緩和する新しいGR-MLPモデルであるOrthoRegを提案する。
論文 参考訳(メタデータ) (2023-01-31T21:20:48Z) - Graph Contrastive Learning with Implicit Augmentations [36.57536688367965]
Inlicit Graph Contrastive Learning (iGCL)は、グラフトポロジ構造を再構築することにより、変分グラフオートエンコーダから学習した潜時空間の増大を利用する。
グラフレベルとノードレベルの両方のタスクに対する実験結果から,提案手法が最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2022-11-07T17:34:07Z) - FoSR: First-order spectral rewiring for addressing oversquashing in GNNs [0.0]
グラフニューラルネットワーク(GNN)は、グラフのエッジに沿ってメッセージを渡すことによって、グラフデータの構造を活用することができる。
本稿では,グラフにエッジを体系的に付加することで過疎化を防止する計算効率のよいアルゴリズムを提案する。
提案アルゴリズムは,いくつかのグラフ分類タスクにおいて,既存のグラフリウィリング手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-10-21T07:58:03Z) - Gradient Gating for Deep Multi-Rate Learning on Graphs [62.25886489571097]
グラフニューラルネットワーク(GNN)の性能向上のための新しいフレームワークであるグラディエントゲーティング(G$2$)を提案する。
我々のフレームワークは,GNN層の出力を,基盤となるグラフのノード間でのメッセージパッシング情報のマルチレートフローのメカニズムでゲーティングすることに基づいている。
論文 参考訳(メタデータ) (2022-10-02T13:19:48Z) - Generalized Spectral Clustering for Directed and Undirected Graphs [4.286327408435937]
本稿では、有向グラフと無向グラフの両方に対処できる一般化スペクトルクラスタリングフレームワークを提案する。
我々のアプローチは、グラフ関数の一般化されたディリクレエネルギーとして導入する新しい函数のスペクトル緩和に基づいている。
また、グラフ上の自然ランダムウォークの反復パワーから構築された正規化尺度の実用的なパラメトリゼーションを提案する。
論文 参考訳(メタデータ) (2022-03-07T09:18:42Z) - Unsupervised Graph Embedding via Adaptive Graph Learning [85.28555417981063]
グラフオートエンコーダ(GAE)は、グラフ埋め込みのための表現学習において強力なツールである。
本稿では,2つの新しい教師なしグラフ埋め込み法,適応グラフ学習(BAGE)による教師なしグラフ埋め込み,変分適応グラフ学習(VBAGE)による教師なしグラフ埋め込みを提案する。
いくつかのデータセットに関する実験的研究により、我々の手法がノードクラスタリング、ノード分類、グラフ可視化タスクにおいて、ベースラインよりも優れていることが実証された。
論文 参考訳(メタデータ) (2020-03-10T02:33:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。