論文の概要: A Self-supervised Mixed-curvature Graph Neural Network

• arxiv url: http://arxiv.org/abs/2112.05393v1
• Date: Fri, 10 Dec 2021 08:56:55 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-13 14:42:53.189973
• Title: A Self-supervised Mixed-curvature Graph Neural Network
• Title（参考訳）: 自己教師付き混合曲率グラフニューラルネットワーク
• Authors: Li Sun, Zhongbao Zhang, Junda Ye, Hao Peng, Jiawei Zhang, Sen Su, Philip S. Yu
• Abstract要約: 自己教師型混合曲率グラフニューラルネットワーク(SelfMGNN)を提案する。 我々は、SelfMGNNが現実の複雑なグラフ構造をキャプチャし、最先端のベースラインを上回っていることを示す。
• 参考スコア（独自算出の注目度）: 76.3790248465522
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Graph representation learning received increasing attentions in recent years. Most of existing methods ignore the complexity of the graph structures and restrict graphs in a single constant-curvature representation space, which is only suitable to particular kinds of graph structure indeed. Additionally, these methods follow the supervised or semi-supervised learning paradigm, and thereby notably limit their deployment on the unlabeled graphs in real applications. To address these aforementioned limitations, we take the first attempt to study the self-supervised graph representation learning in the mixed-curvature spaces. In this paper, we present a novel Self-supervised Mixed-curvature Graph Neural Network (SelfMGNN). Instead of working on one single constant-curvature space, we construct a mixed-curvature space via the Cartesian product of multiple Riemannian component spaces and design hierarchical attention mechanisms for learning and fusing the representations across these component spaces. To enable the self-supervisd learning, we propose a novel dual contrastive approach. The mixed-curvature Riemannian space actually provides multiple Riemannian views for the contrastive learning. We introduce a Riemannian projector to reveal these views, and utilize a well-designed Riemannian discriminator for the single-view and cross-view contrastive learning within and across the Riemannian views. Finally, extensive experiments show that SelfMGNN captures the complicated graph structures in reality and outperforms state-of-the-art baselines.
• Abstract（参考訳）: 近年,グラフ表現学習が注目されている。 既存の手法のほとんどはグラフ構造の複雑さを無視し、特定の種類のグラフ構造にのみ適合する単一の定数曲率表現空間でグラフを制限する。 さらに、これらの手法は教師付きあるいは半教師付き学習パラダイムに従い、実際のアプリケーションにおけるラベルなしグラフへの展開を著しく制限する。 これらの制約に対処するため、混合曲率空間における自己教師付きグラフ表現学習の研究を初めて試みる。 本稿では,自己教師型混合曲率グラフニューラルネットワーク(SelfMGNN)を提案する。 1つの定数曲率空間に取り組む代わりに、複数のリーマン成分空間のデカルト積を通して混合曲率空間を構築し、これらの成分空間をまたいで表現を学習し融合するための階層的注意機構を設計する。 自己教師あり学習を可能にするために,新しい双対コントラストアプローチを提案する。 混合曲率リーマン空間は、実際にコントラスト学習のための複数のリーマン的ビューを提供する。 これらの視点を明らかにするためにリーマン的プロジェクタを導入し、よく設計されたリーマン的判別器を用いて、リーマン的視点の内外におけるシングルビューおよびクロスビューの対照的な学習を行う。 最後に、幅広い実験により、selfmgnnが現実の複雑なグラフ構造を捉え、最先端のベースラインを上回ることが示されている。

関連論文リスト

• Motif-aware Riemannian Graph Neural Network with Generative-Contrastive Learning [23.041843981988503]
  ラベルのない多変数曲率多様体におけるモチーフ正則性を取得するための新しい手法を提案する。 また,構成多様体のモチーフ規則性を捉えるために,モチーフ認識型生成コントラスト学習を導入する。 実験の結果, D-GCNよりもMofitRGCの方が優れていた。
  論文  参考訳（メタデータ） (2024-01-02T14:58:26Z)
• Self-Supervised Continual Graph Learning in Adaptive Riemannian Spaces [74.03252813800334]
  連続的なグラフ学習は、様々なタスクを持つグラフデータが順次やってくる様々な現実世界のアプリケーションにおいて、その役割を日常的に発見する。 既存の手法はゼロ曲率ユークリッド空間で作用し、次のグラフ列で曲率が変化するという事実をほとんど無視する。 上記の課題に対処するため,本稿では,自己教師付き連続グラフ学習という,挑戦的かつ実践的な課題について検討する。
  論文  参考訳（メタデータ） (2022-11-30T15:25:27Z)
• Geometry Contrastive Learning on Heterogeneous Graphs [50.58523799455101]
  本稿では,幾何学コントラスト学習(Geometry Contrastive Learning, GCL)と呼ばれる,新しい自己指導型学習手法を提案する。 GCLはユークリッドと双曲的な視点からヘテロジニアスグラフを同時に見ることができ、リッチな意味論と複雑な構造をモデル化する能力の強い融合を目指している。 4つのベンチマークデータセットの大規模な実験は、提案手法が強いベースラインよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-25T03:54:53Z)
• Group Contrastive Self-Supervised Learning on Graphs [101.45974132613293]
  グラフ上での自己教師型学習をコントラッシブ手法を用いて研究する。 複数の部分空間におけるグラフの対比により、グラフエンコーダはより豊富な特徴を捉えることができる。
  論文  参考訳（メタデータ） (2021-07-20T22:09:21Z)
• Multi-Scale Contrastive Siamese Networks for Self-Supervised Graph Representation Learning [48.09362183184101]
  マルチスケールのコントラスト学習によるシームズ自己蒸留の強化により,ノード表現を学習するための新しい自己教師型アプローチを提案する。 提案手法は,新しい最先端の成果を達成し,半教師ありの成果を大きなマージンで上回っている。
  論文  参考訳（メタデータ） (2021-05-12T14:20:13Z)
• Spatial-spectral Hyperspectral Image Classification via Multiple Random Anchor Graphs Ensemble Learning [88.60285937702304]
  本稿では,複数のランダムアンカーグラフアンサンブル学習(RAGE)を用いた空間スペクトルHSI分類手法を提案する。 まず、各選択されたバンドのより記述的な特徴を抽出し、局所的な構造と領域の微妙な変化を保存するローカルバイナリパターンを採用する。 次に,アンカーグラフの構成に適応隣接代入を導入し,計算複雑性を低減した。
  論文  参考訳（メタデータ） (2021-03-25T09:31:41Z)
• Conformal retrofitting via Riemannian manifolds: distilling task-specific graphs into pretrained embeddings [1.2970250708769708]
  事前訓練された埋め込みは、多くの機械学習アプリケーションにおいて中心となる、単語のようなエンティティのタスクに依存しない汎用的特徴表現である。 既存のリトライフィッティングアルゴリズムは、2つの制限に直面している。 本稿では,非ユークリッド多様体に事前学習した埋め込みから局所幾何学を保存する新しい正規化器,共形正規化器,および,非ユークリッド多様体への埋め込みを学習するフィードフォワード層を提案する。
  論文  参考訳（メタデータ） (2020-10-09T23:06:57Z)
• Graph Representation Learning via Graphical Mutual Information Maximization [86.32278001019854]
  本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。 我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
  論文  参考訳（メタデータ） (2020-02-04T08:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。