論文の概要: Bayesian Graph Contrastive Learning
- arxiv url: http://arxiv.org/abs/2112.07823v1
- Date: Wed, 15 Dec 2021 01:45:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-16 14:02:36.428879
- Title: Bayesian Graph Contrastive Learning
- Title(参考訳): ベイズグラフの対比学習
- Authors: Arman Hasanzadeh, Mohammadreza Armandpour, Ehsan Hajiramezanali,
Mingyuan Zhou, Nick Duffield, Krishna Narayanan
- Abstract要約: 本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
- 参考スコア(独自算出の注目度): 55.36652660268726
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive learning has become a key component of self-supervised learning
approaches for graph-structured data. However, despite their success, existing
graph contrastive learning methods are incapable of uncertainty quantification
for node representations or their downstream tasks, limiting their application
in high-stakes domains. In this paper, we propose a novel Bayesian perspective
of graph contrastive learning methods showing random augmentations leads to
stochastic encoders. As a result, our proposed method represents each node by a
distribution in the latent space in contrast to existing techniques which embed
each node to a deterministic vector. By learning distributional
representations, we provide uncertainty estimates in downstream graph analytics
tasks and increase the expressive power of the predictive model. In addition,
we propose a Bayesian framework to infer the probability of perturbations in
each view of the contrastive model, eliminating the need for a computationally
expensive search for hyperparameter tuning. We empirically show a considerable
improvement in performance compared to existing state-of-the-art methods on
several benchmark datasets.
- Abstract(参考訳): コントラスト学習は,グラフ構造化データの自己教師型学習手法の重要な構成要素となっている。
しかし、その成功にもかかわらず、既存のグラフコントラスト学習手法はノード表現や下流タスクの不確実な定量化ができず、高い領域での応用を制限している。
本稿では,確率的エンコーダに結びつくランダムな拡張を示すグラフコントラスト学習手法のベイズ的視点を提案する。
その結果,提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
分布表現を学習することにより,下流グラフ分析タスクにおける不確実性推定を行い,予測モデルの表現力を高める。
さらに,コントラストモデルの各視点における摂動の確率を推定するベイズ的枠組みを提案し,計算コストのかかるハイパーパラメータチューニングの探索の必要性を排除した。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,パフォーマンスが著しく向上したことを実証的に示す。
関連論文リスト
- Learning Latent Graph Structures and their Uncertainty [63.95971478893842]
グラフニューラルネットワーク(GNN)は、モデル精度を高めるために帰納バイアスとしてリレーショナル情報を使用する。
課題関連関係が不明なため,下流予測タスクを解きながら学習するためのグラフ構造学習手法が提案されている。
論文 参考訳(メタデータ) (2024-05-30T10:49:22Z) - Bures-Wasserstein Means of Graphs [60.42414991820453]
本研究では,スムーズなグラフ信号分布の空間への埋め込みを通じて,グラフ平均を定義する新しいフレームワークを提案する。
この埋め込み空間において平均を求めることにより、構造情報を保存する平均グラフを復元することができる。
我々は,新しいグラフの意味の存在と特異性を確立し,それを計算するための反復アルゴリズムを提供する。
論文 参考訳(メタデータ) (2023-05-31T11:04:53Z) - Creating generalizable downstream graph models with random projections [22.690120515637854]
本稿では,グラフ全体にわたってモデルを一般化するグラフ表現学習手法について検討する。
遷移行列の複数のパワーを推定するためにランダムな射影を用いることで、同型不変な特徴の集合を構築することができることを示す。
結果として得られる特徴は、ノードの局所的近傍に関する十分な情報を回復するために使用することができ、他のアプローチと競合する推論を可能にする。
論文 参考訳(メタデータ) (2023-02-17T14:27:00Z) - Graph Contrastive Learning with Implicit Augmentations [36.57536688367965]
Inlicit Graph Contrastive Learning (iGCL)は、グラフトポロジ構造を再構築することにより、変分グラフオートエンコーダから学習した潜時空間の増大を利用する。
グラフレベルとノードレベルの両方のタスクに対する実験結果から,提案手法が最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2022-11-07T17:34:07Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Reachability analysis in stochastic directed graphs by reinforcement
learning [67.87998628083218]
マルコフグラフにおける遷移確率のダイナミクスは差分包摂によってモデル化できることを示す。
我々は、ノードの集合の到達可能性確率の上限と下限を提供するために、報酬関数を設計する方法論を提供する。
論文 参考訳(メタデータ) (2022-02-25T08:20:43Z) - Learning Robust Representation through Graph Adversarial Contrastive
Learning [6.332560610460623]
既存の研究では、グラフニューラルネットワーク(GNN)によって生成されたノード表現が、敵の攻撃に対して脆弱であることが示されている。
本稿では,グラフ自己教師型学習に対数拡張を導入することにより,新しいグラフ適応型コントラスト学習フレームワーク(GraphACL)を提案する。
論文 参考訳(メタデータ) (2022-01-31T07:07:51Z) - Fairness-Aware Node Representation Learning [9.850791193881651]
本研究は,グラフ強化設計によるグラフ対照的学習における公平性問題に対処する。
グラフ上の異なる公平性の概念を導入し、提案されたグラフ拡張のガイドラインとして機能する。
実ソーシャルネットワークにおける実験結果から,提案した拡張により,統計的平等と平等な機会の両面において公平性が向上することを示した。
論文 参考訳(メタデータ) (2021-06-09T21:12:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。