論文の概要: Alleviating neighbor bias: augmenting graph self-supervise learning with
structural equivalent positive samples
- arxiv url: http://arxiv.org/abs/2212.04365v1
- Date: Thu, 8 Dec 2022 16:04:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-09 15:05:04.423724
- Title: Alleviating neighbor bias: augmenting graph self-supervise learning with
structural equivalent positive samples
- Title(参考訳): 近隣バイアス緩和-構造等価正サンプルを用いたグラフ自己超越学習の促進
- Authors: Jiawei Zhu, Mei Hong, Ronghua Du, Haifeng Li
- Abstract要約: グラフ表現学習のための信号駆動型自己教師方式を提案する。
トポロジカル情報誘導構造等価サンプリング戦略を用いる。
その結果,モデルの性能を効果的に改善できることが示唆された。
- 参考スコア(独自算出の注目度): 1.0507062889290775
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, using a self-supervised learning framework to learn the
general characteristics of graphs has been considered a promising paradigm for
graph representation learning. The core of self-supervised learning strategies
for graph neural networks lies in constructing suitable positive sample
selection strategies. However, existing GNNs typically aggregate information
from neighboring nodes to update node representations, leading to an
over-reliance on neighboring positive samples, i.e., homophilous samples; while
ignoring long-range positive samples, i.e., positive samples that are far apart
on the graph but structurally equivalent samples, a problem we call "neighbor
bias." This neighbor bias can reduce the generalization performance of GNNs. In
this paper, we argue that the generalization properties of GNNs should be
determined by combining homogeneous samples and structurally equivalent
samples, which we call the "GC combination hypothesis." Therefore, we propose a
topological signal-driven self-supervised method. It uses a topological
information-guided structural equivalence sampling strategy. First, we extract
multiscale topological features using persistent homology. Then we compute the
structural equivalence of node pairs based on their topological features. In
particular, we design a topological loss function to pull in non-neighboring
node pairs with high structural equivalence in the representation space to
alleviate neighbor bias. Finally, we use the joint training mechanism to adjust
the effect of structural equivalence on the model to fit datasets with
different characteristics. We conducted experiments on the node classification
task across seven graph datasets. The results show that the model performance
can be effectively improved using a strategy of topological signal enhancement.
- Abstract(参考訳): 近年,自己教師付き学習フレームワークを用いてグラフの一般特性を学習することは,グラフ表現学習において有望なパラダイムと考えられている。
グラフニューラルネットワークにおける自己教師あり学習戦略の中核は、適切なサンプル選択戦略を構築することである。
しかし、既存のgnnは通常、隣のノードから情報を収集してノード表現を更新するため、隣り合う正のサンプル(例えば同好的サンプル)に過度に依存します。
この隣接バイアスは、GNNの一般化性能を低下させることができる。
本稿では、GNNの一般化特性は、同質なサンプルと構造的に等価なサンプルを組み合わせることで決定されるべきであり、「GC組合せ仮説」と呼ぶ。
そこで我々はトポロジカル信号駆動型自己教師方式を提案する。
トポロジカル情報誘導構造等価サンプリング戦略を用いる。
まず,永続ホモロジーを用いて多スケールな位相特徴を抽出する。
次に、その位相的特徴に基づいてノード対の構造同値を計算する。
特に、隣り合うバイアスを軽減するために、表現空間における構造的等価性の高い非隣り合うノードペアを引っ張り出す位相損失関数を設計する。
最後に,ジョイントトレーニング機構を用いて,モデルに対する構造等価性の影響を調整し,異なる特性を持つデータセットに適合させる。
7つのグラフデータセットのノード分類タスクについて実験を行った。
その結果、トポロジカル信号の強化戦略を用いて、モデル性能を効果的に改善できることを示した。
関連論文リスト
- Neural Gaussian Similarity Modeling for Differential Graph Structure
Learning [24.582257964387402]
微分不可能近傍サンプリングを微分可能サンプリングに置き換えることで、微分グラフ構造学習モデルを構築する。
この問題を緩和するために、ベル形状のガウス類似性(Gaussian similarity, GauSim)モデリングが、非アネレスト近傍のサンプルとして提案されている。
我々は,大規模グラフを遷移グラフに転送することで,複雑さを著しく低減し,スケーラブルな手法を開発した。
論文 参考訳(メタデータ) (2023-12-15T02:45:33Z) - A GAN Approach for Node Embedding in Heterogeneous Graphs Using Subgraph Sampling [33.50085646298074]
本稿では,グラフニューラルネットワーク (GNN) とGAN (Generative Adrial Network) を組み合わせた新しいフレームワークを提案する。
このフレームワークには高度なエッジ生成と選択モジュールが含まれており、合成ノードとエッジを同時に生成することができる。
論文 参考訳(メタデータ) (2023-12-11T16:52:20Z) - Optimality of Message-Passing Architectures for Sparse Graphs [13.96547777184641]
スパース設定における特徴デコレーショングラフ上のノード分類問題、すなわちノードの期待次数がノード数で$O(1)$である場合について検討する。
局所ベイズ最適性(英語版)と呼ばれるノード分類タスクに対するベイズ最適性(英語版)の概念を導入する。
最適なメッセージパッシングアーキテクチャは,低グラフ信号のレギュレーションにおける標準と高グラフ信号のレギュレーションにおける典型とを補間することを示す。
論文 参考訳(メタデータ) (2023-05-17T17:31:20Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Heterogeneous Graph Neural Networks using Self-supervised Reciprocally
Contrastive Learning [102.9138736545956]
不均一グラフニューラルネットワーク(HGNN)は異種グラフのモデリングと解析において非常に一般的な手法である。
我々は,ノード属性とグラフトポロジの各ガイダンスに関する2つの視点を取り入れた,新規で頑健なヘテロジニアスグラフコントラスト学習手法であるHGCLを初めて開発する。
この新しいアプローチでは,属性とトポロジに関連情報を別々にマイニングする手法として,異なるが最も適した属性とトポロジの融合機構を2つの視点に適用する。
論文 参考訳(メタデータ) (2022-04-30T12:57:02Z) - Curvature Graph Generative Adversarial Networks [31.763904668737304]
GAN(Generative Adversarial Network)は,グラフデータの一般化と堅牢な学習に広く利用されている。
既存のGANグラフ表現法は、離散空間におけるランダムウォークやトラバースによって負のサンプルを生成する。
CurvGANは、複数のタスクにまたがる最先端のメソッドよりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2022-03-03T10:00:32Z) - Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised
Node Classification [59.06717774425588]
本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。
出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。
本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
論文 参考訳(メタデータ) (2021-07-27T19:47:53Z) - Topological Regularization for Graph Neural Networks Augmentation [12.190045459064413]
本稿では,トポロジカル正則化に基づくグラフノードの機能拡張手法を提案する。
我々は,モデルの有効性を証明するために,多数のデータセットについて広範な実験を行った。
論文 参考訳(メタデータ) (2021-04-03T01:37:44Z) - Node Similarity Preserving Graph Convolutional Networks [51.520749924844054]
グラフニューラルネットワーク(GNN)は、ノード近傍の情報を集約し変換することで、グラフ構造とノードの特徴を探索する。
グラフ構造を利用してノード類似性を効果的かつ効率的に保存できるSimP-GCNを提案する。
本研究は,SimP-GCNが3つの分類グラフと4つの非補助グラフを含む7つのベンチマークデータセットに対して有効であることを示す。
論文 参考訳(メタデータ) (2020-11-19T04:18:01Z) - CatGCN: Graph Convolutional Networks with Categorical Node Features [99.555850712725]
CatGCNはグラフ学習に適したノード機能である。
エンドツーエンドでCatGCNを訓練し、半教師付きノード分類でそれを実証する。
論文 参考訳(メタデータ) (2020-09-11T09:25:17Z) - Graph Inference Learning for Semi-supervised Classification [50.55765399527556]
半教師付きノード分類の性能を高めるためのグラフ推論学習フレームワークを提案する。
推論過程の学習には,トレーニングノードから検証ノードへの構造関係のメタ最適化を導入する。
4つのベンチマークデータセットの総合的な評価は、最先端の手法と比較して提案したGILの優位性を示している。
論文 参考訳(メタデータ) (2020-01-17T02:52:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。