論文の概要: Graph Positional Autoencoders as Self-supervised Learners
- arxiv url: http://arxiv.org/abs/2505.23345v1
- Date: Thu, 29 May 2025 11:10:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-30 18:14:07.822961
- Title: Graph Positional Autoencoders as Self-supervised Learners
- Title(参考訳): 自己教師型学習者としてのグラフ位置オートエンコーダ
- Authors: Yang Liu, Deyu Bo, Wenxuan Cao, Yuan Fang, Yawen Li, Chuan Shi,
- Abstract要約: グラフオートエンコーダ(GAE)は入力として不完全なグラフを取り、マスクノードやエッジなどの欠落した要素を予測する。
グラフ位置自動エンコーダ (GraphPAE) を提案する。
異種ノード分類,グラフ特性予測,移動学習など,GraphPAEの有効性を検証するための広範な実験を行った。
- 参考スコア(独自算出の注目度): 42.78083704462157
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph self-supervised learning seeks to learn effective graph representations without relying on labeled data. Among various approaches, graph autoencoders (GAEs) have gained significant attention for their efficiency and scalability. Typically, GAEs take incomplete graphs as input and predict missing elements, such as masked nodes or edges. While effective, our experimental investigation reveals that traditional node or edge masking paradigms primarily capture low-frequency signals in the graph and fail to learn the expressive structural information. To address these issues, we propose Graph Positional Autoencoders (GraphPAE), which employs a dual-path architecture to reconstruct both node features and positions. Specifically, the feature path uses positional encoding to enhance the message-passing processing, improving GAE's ability to predict the corrupted information. The position path, on the other hand, leverages node representations to refine positions and approximate eigenvectors, thereby enabling the encoder to learn diverse frequency information. We conduct extensive experiments to verify the effectiveness of GraphPAE, including heterophilic node classification, graph property prediction, and transfer learning. The results demonstrate that GraphPAE achieves state-of-the-art performance and consistently outperforms baselines by a large margin.
- Abstract(参考訳): グラフ自己教師型学習は、ラベル付きデータに頼ることなく、効果的なグラフ表現を学習しようとする。
様々なアプローチの中で、グラフオートエンコーダ(GAE)はその効率とスケーラビリティに大きな注目を集めている。
通常、GAEは入力として不完全なグラフを取り、マスクノードやエッジなどの欠落した要素を予測する。
実験の結果,従来のノードやエッジマスキングのパラダイムはグラフ内の低周波信号を主に捉え,表現的構造情報を学習できないことがわかった。
これらの問題に対処するために、ノードの特徴と位置の両方を再構成するデュアルパスアーキテクチャを用いたグラフ位置自動符号化(GraphPAE)を提案する。
特に、特徴パスは位置エンコーディングを使用してメッセージパッシング処理を強化し、GAEの劣化した情報を予測する能力を向上させる。
一方、位置経路はノード表現を利用して位置を洗練し固有ベクトルを近似し、エンコーダが多様な周波数情報を学習できるようにする。
異種ノード分類,グラフ特性予測,移動学習など,GraphPAEの有効性を検証するための広範な実験を行った。
その結果、GraphPAEは最先端のパフォーマンスを達成し、ベースラインを大きなマージンで一貫して上回ることを示した。
関連論文リスト
- Greener GRASS: Enhancing GNNs with Encoding, Rewiring, and Attention [12.409982249220812]
本稿では,新しいGNNアーキテクチャであるGraph Attention with Structures (GRASS)を紹介する。
GRASSはランダムな正規グラフを重畳して入力グラフをリワイヤし、長距離情報伝搬を実現する。
また、グラフ構造化データに適した新しい付加的注意機構も採用している。
論文 参考訳(メタデータ) (2024-07-08T06:21:56Z) - Graph Positional and Structural Encoder [11.647944336315346]
グラフエンコーダは、任意のGNNを増大させるために、リッチなPSE表現をキャプチャするように設計されている。
GPSEは複数のPSEに対して効率的な共通潜伏表現を学習し、高い転送性を持つ。
GPSEにより強化されたモデルは、明示的に計算されたPSEを使用するモデルよりも大幅に優れており、少なくとも他のモデルではその性能に匹敵することを示す。
論文 参考訳(メタデータ) (2023-07-14T01:04:18Z) - Feature propagation as self-supervision signals on graphs [0.0]
正規化グラフ情報最大(RGI)は、ノードレベルの自己教師型学習のためのシンプルだが効果的なフレームワークである。
RGIは,その単純さに拘わらず,最先端のパフォーマンスを実現することができることを示す。
論文 参考訳(メタデータ) (2023-03-15T14:20:06Z) - You Only Transfer What You Share: Intersection-Induced Graph Transfer
Learning for Link Prediction [79.15394378571132]
従来見過ごされていた現象を調査し、多くの場合、元のグラフに対して密に連結された補グラフを見つけることができる。
より密度の高いグラフは、選択的で有意義な知識を伝達するための自然なブリッジを提供する元のグラフとノードを共有することができる。
この設定をグラフインターセクション誘導トランスファーラーニング(GITL)とみなし,eコマースや学術共同オーサシップ予測の実践的応用に動機づけられた。
論文 参考訳(メタデータ) (2023-02-27T22:56:06Z) - GraphMAE: Self-Supervised Masked Graph Autoencoders [52.06140191214428]
本稿では,自己教師付きグラフ学習における課題を軽減するマスク付きグラフオートエンコーダGraphMAEを提案する。
我々は3つの異なるグラフ学習タスクに対して、21の公開データセットに関する広範な実験を行った。
その結果,GraphMAEはグラフオートエンコーダであり,設計に注意を払っている。
論文 参考訳(メタデータ) (2022-05-22T11:57:08Z) - GraphiT: Encoding Graph Structure in Transformers [37.33808493548781]
古典的グラフニューラルネットワーク(GNN)を用いて学習した表現を,ノードの特徴と構造的および位置的情報の集合として見ることにより,より優れた表現を実現できることを示す。
我々のモデルであるGraphiTは,グラフ上の正定値カーネルに基づく自己注意スコアにおける相対的な位置符号化戦略と,短距離パスなどの局所的なサブ構造を列挙して符号化することで,そのような情報を符号化する。
論文 参考訳(メタデータ) (2021-06-10T11:36:22Z) - GraphMI: Extracting Private Graph Data from Graph Neural Networks [59.05178231559796]
GNNを反転させてトレーニンググラフのプライベートグラフデータを抽出することを目的とした textbfGraph textbfModel textbfInversion attack (GraphMI) を提案する。
具体的には,グラフ特徴の空間性と滑らかさを保ちながら,グラフエッジの離散性に対処する勾配モジュールを提案する。
エッジ推論のためのグラフトポロジ、ノード属性、ターゲットモデルパラメータを効率的に活用するグラフ自動エンコーダモジュールを設計する。
論文 参考訳(メタデータ) (2021-06-05T07:07:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。