論文の概要: Bayesian Graph Contrastive Learning
- arxiv url: http://arxiv.org/abs/2112.07823v1
- Date: Wed, 15 Dec 2021 01:45:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-16 14:02:36.428879
- Title: Bayesian Graph Contrastive Learning
- Title(参考訳): ベイズグラフの対比学習
- Authors: Arman Hasanzadeh, Mohammadreza Armandpour, Ehsan Hajiramezanali,
Mingyuan Zhou, Nick Duffield, Krishna Narayanan
- Abstract要約: 本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
- 参考スコア(独自算出の注目度): 55.36652660268726
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive learning has become a key component of self-supervised learning
approaches for graph-structured data. However, despite their success, existing
graph contrastive learning methods are incapable of uncertainty quantification
for node representations or their downstream tasks, limiting their application
in high-stakes domains. In this paper, we propose a novel Bayesian perspective
of graph contrastive learning methods showing random augmentations leads to
stochastic encoders. As a result, our proposed method represents each node by a
distribution in the latent space in contrast to existing techniques which embed
each node to a deterministic vector. By learning distributional
representations, we provide uncertainty estimates in downstream graph analytics
tasks and increase the expressive power of the predictive model. In addition,
we propose a Bayesian framework to infer the probability of perturbations in
each view of the contrastive model, eliminating the need for a computationally
expensive search for hyperparameter tuning. We empirically show a considerable
improvement in performance compared to existing state-of-the-art methods on
several benchmark datasets.
- Abstract(参考訳): コントラスト学習は,グラフ構造化データの自己教師型学習手法の重要な構成要素となっている。
しかし、その成功にもかかわらず、既存のグラフコントラスト学習手法はノード表現や下流タスクの不確実な定量化ができず、高い領域での応用を制限している。
本稿では,確率的エンコーダに結びつくランダムな拡張を示すグラフコントラスト学習手法のベイズ的視点を提案する。
その結果,提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
分布表現を学習することにより,下流グラフ分析タスクにおける不確実性推定を行い,予測モデルの表現力を高める。
さらに,コントラストモデルの各視点における摂動の確率を推定するベイズ的枠組みを提案し,計算コストのかかるハイパーパラメータチューニングの探索の必要性を排除した。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,パフォーマンスが著しく向上したことを実証的に示す。
関連論文リスト
- Creating generalizable downstream graph models with random projections [22.690120515637854]
本稿では,グラフ全体にわたってモデルを一般化するグラフ表現学習手法について検討する。
遷移行列の複数のパワーを推定するためにランダムな射影を用いることで、同型不変な特徴の集合を構築することができることを示す。
結果として得られる特徴は、ノードの局所的近傍に関する十分な情報を回復するために使用することができ、他のアプローチと競合する推論を可能にする。
論文 参考訳(メタデータ) (2023-02-17T14:27:00Z) - Graph Contrastive Learning with Implicit Augmentations [36.57536688367965]
Inlicit Graph Contrastive Learning (iGCL)は、グラフトポロジ構造を再構築することにより、変分グラフオートエンコーダから学習した潜時空間の増大を利用する。
グラフレベルとノードレベルの両方のタスクに対する実験結果から,提案手法が最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2022-11-07T17:34:07Z) - Similarity-aware Positive Instance Sampling for Graph Contrastive
Pre-training [82.68805025636165]
トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。
私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。
さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
論文 参考訳(メタデータ) (2022-06-23T20:12:51Z) - A Graph-Enhanced Click Model for Web Search [67.27218481132185]
ウェブ検索のための新しいグラフ強調クリックモデル(GraphCM)を提案する。
セッション内情報とセッション間情報の両方を、スパーシリティ問題とコールドスタート問題に活用する。
論文 参考訳(メタデータ) (2022-06-17T08:32:43Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Reachability analysis in stochastic directed graphs by reinforcement
learning [67.87998628083218]
マルコフグラフにおける遷移確率のダイナミクスは差分包摂によってモデル化できることを示す。
我々は、ノードの集合の到達可能性確率の上限と下限を提供するために、報酬関数を設計する方法論を提供する。
論文 参考訳(メタデータ) (2022-02-25T08:20:43Z) - Learning Robust Representation through Graph Adversarial Contrastive
Learning [6.332560610460623]
既存の研究では、グラフニューラルネットワーク(GNN)によって生成されたノード表現が、敵の攻撃に対して脆弱であることが示されている。
本稿では,グラフ自己教師型学習に対数拡張を導入することにより,新しいグラフ適応型コントラスト学習フレームワーク(GraphACL)を提案する。
論文 参考訳(メタデータ) (2022-01-31T07:07:51Z) - Fairness-Aware Node Representation Learning [9.850791193881651]
本研究は,グラフ強化設計によるグラフ対照的学習における公平性問題に対処する。
グラフ上の異なる公平性の概念を導入し、提案されたグラフ拡張のガイドラインとして機能する。
実ソーシャルネットワークにおける実験結果から,提案した拡張により,統計的平等と平等な機会の両面において公平性が向上することを示した。
論文 参考訳(メタデータ) (2021-06-09T21:12:14Z) - A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。
AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。
本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
論文 参考訳(メタデータ) (2021-05-22T07:05:48Z) - Graph Contrastive Learning with Adaptive Augmentation [23.37786673825192]
本稿では,適応的拡張を用いた新しいグラフコントラスト表現学習法を提案する。
具体的には,ノードの集中度に基づく拡張スキームを設計し,重要な結合構造を明らかにする。
提案手法は,既存の最先端のベースラインを一貫して上回り,教師付きベースラインを超えている。
論文 参考訳(メタデータ) (2020-10-27T15:12:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。