論文の概要: Self-Supervised Graph Representation Learning via Topology Transformations

• arxiv url: http://arxiv.org/abs/2105.11689v1
• Date: Tue, 25 May 2021 06:11:03 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-26 13:40:25.658880
• Title: Self-Supervised Graph Representation Learning via Topology Transformations
• Title（参考訳）: トポロジー変換による自己教師付きグラフ表現学習
• Authors: Xiang Gao, Wei Hu, Guo-Jun Qi
• Abstract要約: 本稿では,グラフデータのノード表現のための自己教師型学習の一般的なパラダイムであるトポロジー変換同変表現学習について述べる。 実験では,提案手法を下流ノードおよびグラフ分類タスクに適用し,提案手法が最先端の教師なし手法より優れていることを示す。
• 参考スコア（独自算出の注目度）: 61.870882736758624
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present the Topology Transformation Equivariant Representation learning, a general paradigm of self-supervised learning for node representations of graph data to enable the wide applicability of Graph Convolutional Neural Networks (GCNNs). We formalize the proposed model from an information-theoretic perspective, by maximizing the mutual information between topology transformations and node representations before and after the transformations. We derive that maximizing such mutual information can be relaxed to minimizing the cross entropy between the applied topology transformation and its estimation from node representations. In particular, we seek to sample a subset of node pairs from the original graph and flip the edge connectivity between each pair to transform the graph topology. Then, we self-train a representation encoder to learn node representations by reconstructing the topology transformations from the feature representations of the original and transformed graphs. In experiments, we apply the proposed model to the downstream node and graph classification tasks, and results show that the proposed method outperforms the state-of-the-art unsupervised approaches.
• Abstract（参考訳）: 本稿では,グラフ畳み込みニューラルネットワーク(GCNN)の適用性を高めるために,グラフデータのノード表現のための自己教師型学習のパラダイムであるトポロジー変換同変表現学習を提案する。 本稿では, トポロジ変換とノード表現の相互情報の最大化により, 情報理論の観点から, 提案モデルを定式化する。 このような相互情報の最大化は、応用トポロジ変換とノード表現からの推定との交差エントロピーを最小化することで緩和することができる。 特に、ノード対のサブセットを元のグラフからサンプリングし、各ペア間のエッジ接続をひっくり返してグラフトポロジーを変換しようとする。 次に、元のグラフと変換されたグラフの特徴表現からトポロジ変換を再構成してノード表現を学習するために表現エンコーダを自己学習する。 実験では,提案手法を下流ノードとグラフの分類タスクに適用し,提案手法が最先端の教師なし手法よりも優れていることを示す。

関連論文リスト

• Creating generalizable downstream graph models with random projections [22.690120515637854]
  本稿では,グラフ全体にわたってモデルを一般化するグラフ表現学習手法について検討する。 遷移行列の複数のパワーを推定するためにランダムな射影を用いることで、同型不変な特徴の集合を構築することができることを示す。 結果として得られる特徴は、ノードの局所的近傍に関する十分な情報を回復するために使用することができ、他のアプローチと競合する推論を可能にする。
  論文  参考訳（メタデータ） (2023-02-17T14:27:00Z)
• GrannGAN: Graph annotation generative adversarial networks [72.66289932625742]
  本稿では,高次元分布をモデル化し,グラフスケルトンと整合した複雑な関係特徴構造を持つデータの新しい例を生成することの問題点を考察する。 提案するモデルは,タスクを2つのフェーズに分割することで,各データポイントのグラフ構造に制約されたデータ特徴を生成する問題に対処する。 第一に、与えられたグラフのノードに関連する機能の分布をモデル化し、第二に、ノードのフィーチャに条件付きでエッジ機能を補完する。
  論文  参考訳（メタデータ） (2022-12-01T11:49:07Z)
• Interpolation-based Correlation Reduction Network for Semi-Supervised Graph Learning [49.94816548023729]
  補間型相関低減ネットワーク(ICRN)と呼ばれる新しいグラフコントラスト学習手法を提案する。 提案手法では,決定境界のマージンを大きくすることで,潜在特徴の識別能力を向上させる。 この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、離散表現学習を行う。
  論文  参考訳（メタデータ） (2022-06-06T14:26:34Z)
• Revisiting Transformation Invariant Geometric Deep Learning: Are Initial Representations All You Need? [80.86819657126041]
  変換不変および距離保存初期表現は変換不変性を達成するのに十分であることを示す。 具体的には、多次元スケーリングを変更することで、変換不変かつ距離保存された初期点表現を実現する。 我々は、TinvNNが変換不変性を厳密に保証し、既存のニューラルネットワークと組み合わせられるほど汎用的で柔軟なことを証明した。
  論文  参考訳（メタデータ） (2021-12-23T03:52:33Z)
• Heterogeneous Graph Neural Network with Multi-view Representation Learning [16.31723570596291]
  異種グラフ埋め込みのための多視点表現学習(MV-HetGNN)を用いた異種グラフニューラルネットワークを提案する。 提案手法は, ノード特徴変換, ビュー固有エゴグラフ符号化, 自動多視点融合により, 包括的ノード表現を生成する複雑な構造情報と意味情報を完全に学習する。 3つの実世界の異種グラフデータセットに対する大規模な実験により、提案されたMV-HetGNNモデルは、様々な下流タスクにおいて、最先端のGNNベースラインを一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2021-08-31T07:18:48Z)
• Equivariance-bridged SO(2)-Invariant Representation Learning using Graph Convolutional Network [0.1657441317977376]
  回転に対して堅牢な畳み込みニューラルネットワーク(CNN)のトレーニングは、主にデータ拡張で行われている。 本稿では,ネットワークの構造的回転不変性を実現することにより,データ拡張への依存の軽減を図っている。 本手法は,回転MNISTおよびCIFAR-10画像の最先端画像分類性能を実現する。
  論文  参考訳（メタデータ） (2021-06-18T08:37:45Z)
• Heterogeneous Graph Representation Learning with Relation Awareness [45.14314180743549]
  我々は,不均一グラフ上のノード表現をきめ細かいレベルで学習するために,R-HGNN(Relation-Aware Heterogeneous Graph Neural Network)を提案する。 専用グラフ畳み込みコンポーネントは、まず、関係性固有のグラフからユニークなノード表現を学習するために設計されている。 異なる関係をまたいだノード表現の相互作用を改善するために,クロスリレーションメッセージパッシングモジュールが開発された。
  論文  参考訳（メタデータ） (2021-05-24T07:01:41Z)
• Topological Regularization for Graph Neural Networks Augmentation [12.190045459064413]
  本稿では,トポロジカル正則化に基づくグラフノードの機能拡張手法を提案する。 我々は,モデルの有効性を証明するために,多数のデータセットについて広範な実験を行った。
  論文  参考訳（メタデータ） (2021-04-03T01:37:44Z)
• Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
  結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。 新規な構造化融合正規化に基づく一般グラフ推定器を提案する。 提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
  論文  参考訳（メタデータ） (2021-03-05T04:42:32Z)
• Building powerful and equivariant graph neural networks with structural message-passing [74.93169425144755]
  本稿では,2つのアイデアに基づいた,強力かつ同変なメッセージパッシングフレームワークを提案する。 まず、各ノードの周囲の局所的コンテキスト行列を学習するために、特徴に加えてノードの1ホット符号化を伝搬する。 次に,メッセージのパラメトリゼーション手法を提案する。
  論文  参考訳（メタデータ） (2020-06-26T17:15:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。