論文の概要: Simple Path Structural Encoding for Graph Transformers

• arxiv url: http://arxiv.org/abs/2502.09365v1
• Date: Thu, 13 Feb 2025 14:33:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-14 13:49:45.095380
• Title: Simple Path Structural Encoding for Graph Transformers
• Title（参考訳）: グラフ変換器の簡単な経路構造符号化
• Authors: Louis Airale, Antonio Longa, Mattia Rigon, Andrea Passerini, Roberto Passerone,
• Abstract要約: グラフトランスフォーマーは、グローバルな自己アテンションをグラフ構造化データに拡張し、グラフ学習において顕著な成功を収めた。 ランダムウォーク構造符号化(RWSE)は、構造情報と位置情報の両方をエッジ表現に符号化することにより、予測力をさらに向上させる。 本研究は,エッジ符号化に単純なパスカウントを利用する新しい手法であるSimple Path Structure Algorithm (SPSE)を導入する。
• 参考スコア（独自算出の注目度）: 8.18108410525094
• License:
• Abstract: Graph transformers extend global self-attention to graph-structured data, achieving notable success in graph learning. Recently, random walk structural encoding (RWSE) has been found to further enhance their predictive power by encoding both structural and positional information into the edge representation. However, RWSE cannot always distinguish between edges that belong to different local graph patterns, which reduces its ability to capture the full structural complexity of graphs. This work introduces Simple Path Structural Encoding (SPSE), a novel method that utilizes simple path counts for edge encoding. We show theoretically and experimentally that SPSE overcomes the limitations of RWSE, providing a richer representation of graph structures, particularly for capturing local cyclic patterns. To make SPSE computationally tractable, we propose an efficient approximate algorithm for simple path counting. SPSE demonstrates significant performance improvements over RWSE on various benchmarks, including molecular and long-range graph datasets, achieving statistically significant gains in discriminative tasks. These results pose SPSE as a powerful edge encoding alternative for enhancing the expressivity of graph transformers.
• Abstract（参考訳）: グラフトランスフォーマーは、グローバルな自己アテンションをグラフ構造化データに拡張し、グラフ学習において顕著な成功を収めた。 近年、ランダムウォーク構造符号化(RWSE)は、構造情報と位置情報の両方をエッジ表現に符号化することにより、予測力をさらに高めることが知られている。 しかし、RWSEは、異なる局所グラフパターンに属するエッジを常に区別することはできないため、グラフの完全な構造的複雑さを捉える能力は低下する。 本研究は,エッジ符号化に簡単なパスカウントを利用する新しい手法であるシンプルパス構造符号化(SPSE)を導入する。 本研究では,SPSEがRWSEの限界を克服し,特に局所巡回パターンを捉えるためのグラフ構造をよりリッチに表現できることを理論的,実験的に示す。 本研究では,SPSEを計算的抽出可能とし,簡単な経路カウントのための効率的な近似アルゴリズムを提案する。 SPSEは、分子および長距離グラフデータセットを含む様々なベンチマークでRWSEよりも顕著な性能向上を示し、識別タスクにおいて統計的に有意な向上を達成している。 これらの結果からSPSEはグラフ変換器の表現性を高めるための強力なエッジ符号化の代替となる。

関連論文リスト

• GraphCroc: Cross-Correlation Autoencoder for Graph Structural Reconstruction [6.817416560637197]
  グラフオートエンコーダ(GAE)はノード埋め込みからグラフ構造を再構築する。 我々はGAE表現能力を著しく向上する相互相関機構を導入する。 また、さまざまな下流タスクに適したフレキシブルエンコーダアーキテクチャをサポートする新しいGAEであるGraphCrocを提案する。
  論文  参考訳（メタデータ） (2024-10-04T12:59:45Z)
• Learning to Model Graph Structural Information on MLPs via Graph Structure Self-Contrasting [50.181824673039436]
  本稿では,グラフ構造情報をメッセージパッシングなしで学習するグラフ構造自己コントラスト(GSSC)フレームワークを提案する。 提案するフレームワークは,構造情報を事前知識として暗黙的にのみ組み込む,MLP(Multi-Layer Perceptrons)に基づいている。 これはまず、近傍の潜在的非形式的あるいはノイズの多いエッジを取り除くために構造的スペーシングを適用し、その後、スペーシングされた近傍で構造的自己コントラストを行い、ロバストなノード表現を学ぶ。
  論文  参考訳（メタデータ） (2024-09-09T12:56:02Z)
• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• Graph Transformers without Positional Encodings [0.7252027234425334]
  グラフのラプラシアンスペクトルを認識する新しいスペクトル対応アテンション機構を用いたグラフ変換器であるEigenformerを紹介する。 我々は,多数の標準GNNベンチマークにおいて,SOTAグラフ変換器の性能向上を実証的に示す。
  論文  参考訳（メタデータ） (2024-01-31T12:33:31Z)
• SE-GSL: A General and Effective Graph Structure Learning Framework through Structural Entropy Optimization [67.28453445927825]
  グラフニューラルネットワーク(GNN)は、構造的データ学習のデファクトソリューションである。 既存のグラフ構造学習(GSL)フレームワークには、堅牢性と解釈性がない。 本稿では、構造エントロピーと符号化木に抽象化されたグラフ階層を通して、一般的なGSLフレームワークSE-GSLを提案する。
  論文  参考訳（メタデータ） (2023-03-17T05:20:24Z)
• Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
  本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。 具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
  論文  参考訳（メタデータ） (2022-01-17T11:57:29Z)
• Spectral Graph Convolutional Networks With Lifting-based Adaptive Graph Wavelets [81.63035727821145]
  スペクトルグラフ畳み込みネットワーク(SGCN)はグラフ表現学習において注目を集めている。 本稿では,適応グラフウェーブレットを用いたグラフ畳み込みを実装した新しいスペクトルグラフ畳み込みネットワークを提案する。
  論文  参考訳（メタデータ） (2021-08-03T17:57:53Z)
• Graph Convolutional Networks in Feature Space for Image Deblurring and Super-resolution [11.531085904098003]
  グラフ畳み込みを付加した新しいエンコーダデコーダネットワークを提案する。 実験により、画像復元作業のパフォーマンスが著しく向上することが示された。 より多くのアプリケーションにおいて、GCNベースのアプローチの機会が開けると信じています。
  論文  参考訳（メタデータ） (2021-05-21T17:02:15Z)
• Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
  最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。 我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
  論文  参考訳（メタデータ） (2020-10-06T01:20:27Z)
• Self-Constructing Graph Convolutional Networks for Semantic Labeling [23.623276007011373]
  本稿では,学習可能な潜伏変数を用いて埋め込みを生成する自己構築グラフ(SCG)を提案する。 SCGは、空中画像中の複雑な形状の物体から、最適化された非局所的なコンテキストグラフを自動的に取得することができる。 本稿では,ISPRS Vaihingen データセット上で提案した SCG の有効性と柔軟性を示す。
  論文  参考訳（メタデータ） (2020-03-15T21:55:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。