論文の概要: Greener GRASS: Enhancing GNNs with Encoding, Rewiring, and Attention
- arxiv url: http://arxiv.org/abs/2407.05649v3
- Date: Wed, 09 Oct 2024 16:32:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-10 14:30:43.112570
- Title: Greener GRASS: Enhancing GNNs with Encoding, Rewiring, and Attention
- Title(参考訳): Greener GRASS: エンコーディング、リライト、アテンションによるGNNの強化
- Authors: Tongzhou Liao, Barnabás Póczos,
- Abstract要約: 本稿では,新しいGNNアーキテクチャであるGraph Attention with Structures (GRASS)を紹介する。
GRASSはランダムな正規グラフを重畳して入力グラフをリワイヤし、長距離情報伝搬を実現する。
また、グラフ構造化データに適した新しい付加的注意機構も採用している。
- 参考スコア(独自算出の注目度): 12.409982249220812
- License:
- Abstract: Graph Neural Networks (GNNs) have become important tools for machine learning on graph-structured data. In this paper, we explore the synergistic combination of graph encoding, graph rewiring, and graph attention, by introducing Graph Attention with Stochastic Structures (GRASS), a novel GNN architecture. GRASS utilizes relative random walk probabilities (RRWP) encoding and a novel decomposed variant (D-RRWP) to efficiently capture structural information. It rewires the input graph by superimposing a random regular graph to enhance long-range information propagation. It also employs a novel additive attention mechanism tailored for graph-structured data. Our empirical evaluations demonstrate that GRASS achieves state-of-the-art performance on multiple benchmark datasets, including a 20.3% reduction in mean absolute error on the ZINC dataset.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、グラフ構造化データ上での機械学習において重要なツールとなっている。
本稿では,新しいGNNアーキテクチャであるGRASS(Graph Attention with Stochastic Structures)を導入することにより,グラフエンコーディング,グラフリウィリング,グラフアテンションの相乗的組み合わせについて検討する。
GRASSは、相対ランダムウォーク確率(RRWP)エンコーディングと、新しい分解型(D-RRWP)を使用して、構造情報を効率的に取得する。
ランダムな正規グラフを重畳して入力グラフを再構成し、長距離情報伝播を強化する。
また、グラフ構造化データに適した新しい付加的注意機構も採用している。
我々の経験的評価は、GRASSが、ZINCデータセットの平均絶対誤差を20.3%削減するなど、複数のベンチマークデータセットで最先端のパフォーマンスを達成することを示した。
関連論文リスト
- EggNet: An Evolving Graph-based Graph Attention Network for Particle Track Reconstruction [0.0]
我々は,一組のヒットから粒子トラックを直接再構成するワンショットOCアプローチを検討する。
このアプローチは、グラフを反復的に更新し、各グラフを横断するメッセージをより容易にする。
TrackMLデータセットに関する予備研究は、固定された入力グラフを必要とする方法と比較して、トラック性能が向上したことを示している。
論文 参考訳(メタデータ) (2024-07-18T22:29:24Z) - Graph Coarsening with Message-Passing Guarantees [10.02138130221506]
提案手法は,信号の保存に関する理論的保証を示す,粗いグラフに特有な新しいメッセージパッシング操作を提案する。
我々は合成データと実データに対してノード分類タスクを行い、粗いグラフ上で単純メッセージパッシングを行うのと比べて改善された結果を観察する。
論文 参考訳(メタデータ) (2024-05-28T12:39:24Z) - An Accurate Graph Generative Model with Tunable Features [0.8192907805418583]
本稿では,グラフ特徴の誤りを返送する機構を新たに追加することで,GraphTuneの精度を向上させる手法を提案する。
実世界のグラフデータセットを用いて実験したところ、生成されたグラフの特徴は従来のモデルと比較して正確に調整されていることがわかった。
論文 参考訳(メタデータ) (2023-09-03T12:34:15Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳(メタデータ) (2022-05-19T14:08:15Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳(メタデータ) (2022-01-17T11:57:29Z) - Graph Contrastive Learning with Augmentations [109.23158429991298]
グラフデータの教師なし表現を学習するためのグラフコントラスト学習(GraphCL)フレームワークを提案する。
我々のフレームワークは、最先端の手法と比較して、類似またはより良い一般化可能性、転送可能性、堅牢性のグラフ表現を作成できることを示す。
論文 参考訳(メタデータ) (2020-10-22T20:13:43Z) - Dirichlet Graph Variational Autoencoder [65.94744123832338]
本稿では,グラフクラスタメンバシップを潜在因子とするDGVAE(Dirichlet Graph Variational Autoencoder)を提案する。
バランスグラフカットにおける低パス特性により、入力グラフをクラスタメンバシップにエンコードする、Heattsと呼ばれるGNNの新しい変種を提案する。
論文 参考訳(メタデータ) (2020-10-09T07:35:26Z) - GraphCrop: Subgraph Cropping for Graph Classification [36.33477716380905]
我々は,サブ構造欠落の現実的なノイズをシミュレートするtextbfGraphCrop (Subgraph Cropping) データ拡張法を開発した。
グラフ分類のための有効な構造コンテキストを保存することにより、GNNはグローバルな意味でグラフ構造の内容を理解することを奨励する。
論文 参考訳(メタデータ) (2020-09-22T14:05:41Z) - Graph Pooling with Node Proximity for Hierarchical Representation
Learning [80.62181998314547]
本稿では,ノード近接を利用したグラフプーリング手法を提案し,そのマルチホップトポロジを用いたグラフデータの階層的表現学習を改善する。
その結果,提案したグラフプーリング戦略は,公開グラフ分類ベンチマークデータセットの集合において,最先端のパフォーマンスを達成できることが示唆された。
論文 参考訳(メタデータ) (2020-06-19T13:09:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。