論文の概要: Generalized Laplacian Positional Encoding for Graph Representation
Learning
- arxiv url: http://arxiv.org/abs/2210.15956v1
- Date: Fri, 28 Oct 2022 07:21:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-31 16:42:32.406765
- Title: Generalized Laplacian Positional Encoding for Graph Representation
Learning
- Title(参考訳): グラフ表現学習のための一般化ラプラシアン位置符号化
- Authors: Sohir Maskey, Ali Parviz, Maximilian Thiessen, Hannes St\"ark, Ylli
Sadikaj, Haggai Maron
- Abstract要約: グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理するための主要なツールである。
近年の研究では、位置エンコーディングの考え方をグラフデータに適用している。
本稿はラプラシア語に基づく位置符号化の最近の成功から着想を得たものである。
- 参考スコア(独自算出の注目度): 15.723716197068574
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural networks (GNNs) are the primary tool for processing
graph-structured data. Unfortunately, the most commonly used GNNs, called
Message Passing Neural Networks (MPNNs) suffer from several fundamental
limitations. To overcome these limitations, recent works have adapted the idea
of positional encodings to graph data. This paper draws inspiration from the
recent success of Laplacian-based positional encoding and defines a novel
family of positional encoding schemes for graphs. We accomplish this by
generalizing the optimization problem that defines the Laplace embedding to
more general dissimilarity functions rather than the 2-norm used in the
original formulation. This family of positional encodings is then instantiated
by considering p-norms. We discuss a method for calculating these positional
encoding schemes, implement it in PyTorch and demonstrate how the resulting
positional encoding captures different properties of the graph. Furthermore, we
demonstrate that this novel family of positional encodings can improve the
expressive power of MPNNs. Lastly, we present preliminary experimental results.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理するための主要なツールである。
残念ながら、メッセージパッシングニューラルネットワーク(MPNN)と呼ばれる最も一般的なGNNには、いくつかの基本的な制限がある。
これらの制限を克服するため、最近の研究は位置エンコーディングの考え方をグラフデータに適用した。
本稿では,最近のラプラシアン型位置符号化の成功から着想を得て,グラフの位置符号化スキームの新たなファミリーを定義する。
元の定式化で用いられる2ノルムよりも、より一般的な相似関数へのラプラス埋め込みを定義する最適化問題を一般化することで、これを実現できる。
この位置符号化の族は、p-ノルムを考慮してインスタンス化される。
本稿では、これらの位置符号化スキームを計算し、pytorchに実装し、結果として得られる位置符号化がグラフの異なる特性をどのように捉えるかを示す。
さらに,この位置符号化の新たなファミリーがMPNNの表現力を向上させることを実証した。
最後に,予備実験結果を示す。
関連論文リスト
- Scalable Graph Compressed Convolutions [68.85227170390864]
ユークリッド畳み込みのための入力グラフのキャリブレーションに置換を適用する微分可能手法を提案する。
グラフキャリブレーションに基づいて,階層型グラフ表現学習のための圧縮畳み込みネットワーク(CoCN)を提案する。
論文 参考訳(メタデータ) (2024-07-26T03:14:13Z) - Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。
提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
論文 参考訳(メタデータ) (2024-01-12T17:57:07Z) - Improving Subgraph-GNNs via Edge-Level Ego-Network Encodings [3.8711489380602804]
本稿では,グラフ学習のためのエッジレベルのego-networkエンコーディングを提案する。
追加のノードとエッジ機能を提供することで、Message Passing Graph Neural Networks(MP-GNNs)を強化することができる。
このような符号化はノードベースのMP-GNNよりも表現力が高いことを示す。
論文 参考訳(メタデータ) (2023-12-10T15:05:23Z) - Recurrent Distance Filtering for Graph Representation Learning [34.761926988427284]
反復的なワンホップメッセージパッシングに基づくグラフニューラルネットワークは、遠方のノードからの情報を効果的に活用するのに苦労していることが示されている。
これらの課題を解決するための新しいアーキテクチャを提案する。
我々のモデルは、ターゲットへの最短距離で他のノードを集約し、線形RNNを用いてホップ表現のシーケンスを符号化する。
論文 参考訳(メタデータ) (2023-12-03T23:36:16Z) - Graph Neural Network Bandits [89.31889875864599]
グラフ構造データ上で定義された報酬関数を用いた帯域最適化問題を考察する。
この設定の主な課題は、大きなドメインへのスケーリングと、多くのノードを持つグラフへのスケーリングである。
グラフニューラルネットワーク(GNN)を用いて報酬関数を推定できることを示す。
論文 参考訳(メタデータ) (2022-07-13T18:12:36Z) - ResNorm: Tackling Long-tailed Degree Distribution Issue in Graph Neural
Networks via Normalization [80.90206641975375]
本稿では,正規化によるGNNの性能向上に焦点をあてる。
グラフ中のノード次数の長期分布を調べることにより、GNNの新しい正規化法を提案する。
ResNormの$scale$操作は、尾ノードの精度を向上させるために、ノード単位の標準偏差(NStd)分布を再設定する。
論文 参考訳(メタデータ) (2022-06-16T13:49:09Z) - Rewiring with Positional Encodings for Graph Neural Networks [37.394229290996364]
いくつかの最近の研究は、注意機構を備えたグラフニューラルネットワーク層の受容場を拡張するために位置符号化を使用している。
位置エンコーディングを用いて、受容場を$r$ホップ地区に拡張する。
各種モデルやデータセットの改良や,従来のGNNやグラフトランスフォーマーによる競争性能の向上を実現しています。
論文 参考訳(メタデータ) (2022-01-29T22:26:02Z) - Graph Neural Networks with Learnable Structural and Positional
Representations [83.24058411666483]
任意のグラフの大きな問題は、ノードの標準位置情報の欠如である。
ノードの位置ノード(PE)を導入し、Transformerのように入力層に注入する。
両方のGNNクラスで学習可能なPEを考えると、分子データセットのパフォーマンスは2.87%から64.14%に向上する。
論文 参考訳(メタデータ) (2021-10-15T05:59:15Z) - A Robust Alternative for Graph Convolutional Neural Networks via Graph
Neighborhood Filters [84.20468404544047]
グラフシフト演算子のパワーを$k$ホップ近傍行列に置き換えるグラフフィルタ群(NGF)を提案する。
NGFは、従来のGFの数値問題を緩和し、より深いGCNNの設計を可能にし、グラフのトポロジにおけるエラーに対する堅牢性を高めるのに役立つ。
論文 参考訳(メタデータ) (2021-10-02T17:05:27Z) - Graph Attention Networks with Positional Embeddings [7.552100672006174]
グラフニューラルネットワーク(GNN)は、ノード分類タスクにおける芸術的パフォーマンスの現在の状態を提供するディープラーニング手法である。
本論文では,GATを位置埋め込みで強化するフレームワークであるG Graph Attentional Networks with Positional Embeddings(GAT-POS)を提案する。
GAT-POSは、強いGNNベースラインや、非ホモフィルグラフ上の最近の構造埋め込み強化GNNと比較して著しく改善されている。
論文 参考訳(メタデータ) (2021-05-09T22:13:46Z) - Scalable Graph Neural Networks for Heterogeneous Graphs [12.44278942365518]
グラフニューラルネットワーク(GNN)は、グラフ構造化データを学習するためのパラメトリックモデルの一般的なクラスである。
最近の研究は、GNNが主に機能をスムースにするためにグラフを使用しており、ベンチマークタスクで競合する結果を示していると主張している。
本研究では、これらの結果が異種グラフに拡張可能かどうかを問うとともに、異なるエンティティ間の複数のタイプの関係を符号化する。
論文 参考訳(メタデータ) (2020-11-19T06:03:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。