論文の概要: Self-Supervised Learning of Contextual Embeddings for Link Prediction in Heterogeneous Networks

• arxiv url: http://arxiv.org/abs/2007.11192v3
• Date: Sun, 21 Mar 2021 20:42:38 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-07 22:21:27.630130
• Title: Self-Supervised Learning of Contextual Embeddings for Link Prediction in Heterogeneous Networks
• Title（参考訳）: 不均一ネットワークにおけるリンク予測のための文脈埋め込みの自己教師付き学習
• Authors: Ping Wang, Khushbu Agarwal, Colby Ham, Sutanay Choudhury, Chandan K. Reddy
• Abstract要約: 本研究では,グラフ全体からのグローバル情報を用いた静的表現学習手法をブリッジするフレームワークであるSLiCEを開発する。 まず、上位のセマンティックアソシエーションやマスキングノードを導入し、自己教師付きでモデルを事前訓練する。 また、セマンティックアソシエーション行列を解釈し、ネットワーク内の異種ノード間のリンク予測を成功させるために、その有用性と関連性を提供する。
• 参考スコア（独自算出の注目度）: 11.540329725077843
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Representation learning methods for heterogeneous networks produce a low-dimensional vector embedding for each node that is typically fixed for all tasks involving the node. Many of the existing methods focus on obtaining a static vector representation for a node in a way that is agnostic to the downstream application where it is being used. In practice, however, downstream tasks such as link prediction require specific contextual information that can be extracted from the subgraphs related to the nodes provided as input to the task. To tackle this challenge, we develop SLiCE, a framework bridging static representation learning methods using global information from the entire graph with localized attention driven mechanisms to learn contextual node representations. We first pre-train our model in a self-supervised manner by introducing higher-order semantic associations and masking nodes, and then fine-tune our model for a specific link prediction task. Instead of training node representations by aggregating information from all semantic neighbors connected via metapaths, we automatically learn the composition of different metapaths that characterize the context for a specific task without the need for any pre-defined metapaths. SLiCE significantly outperforms both static and contextual embedding learning methods on several publicly available benchmark network datasets. We also interpret the semantic association matrix and provide its utility and relevance in making successful link predictions between heterogeneous nodes in the network.
• Abstract（参考訳）: 不均一ネットワークの表現学習法は、ノードを含む全てのタスクに対して通常固定される各ノードに対して低次元ベクトル埋め込みを生成する。 既存のメソッドの多くは、使用中のダウンストリームアプリケーションに非依存な方法でノードの静的ベクトル表現を取得することに重点を置いている。 しかし、実際には、リンク予測のような下流タスクは、タスクへの入力として提供されるノードに関連するサブグラフから抽出できる特定のコンテキスト情報を必要とする。 この課題に取り組むために,グラフ全体からグローバル情報を用いた静的表現学習手法と,局所的な注意駆動機構とを橋渡しし,文脈ノード表現を学習するフレームワークであるsliceを開発した。 まず,高次意味関係とマスキングノードを導入し,自己教師付きでモデルを事前学習した上で,リンク予測タスクに対してモデルを微調整した。 メタパスを介して接続されるすべての意味の隣人から情報を集約してノード表現をトレーニングする代わりに、事前定義されたメタパスを必要とせずに、特定のタスクのコンテキストを特徴付ける異なるメタパスの構成を自動的に学習します。 sliceは、いくつかの公開ベンチマークネットワークデータセットで静的およびコンテキストの埋め込み学習メソッドを著しく上回っている。 また、セマンティックアソシエーション行列を解釈し、ネットワーク内の異種ノード間のリンク予測を成功させるための有用性と関連性を提供する。

関連論文リスト

• Domain-adaptive Message Passing Graph Neural Network [67.35534058138387]
  クロスネットワークノード分類(CNNC)は、豊富なラベルを持つソースネットワークから知識を転送することで、ラベル不足のターゲットネットワーク内のノードを分類することを目的としている。 本稿では,グラフニューラルネットワーク(GNN)と条件付き対向ドメイン適応を統合したドメイン適応型メッセージパッシンググラフニューラルネットワーク(DM-GNN)を提案する。
  論文  参考訳（メタデータ） (2023-08-31T05:26:08Z)
• BSAL: A Framework of Bi-component Structure and Attribute Learning for Link Prediction [33.488229191263564]
  トポロジや特徴空間からの情報を適応的に活用する二成分構造・属性学習フレームワーク(BSAL)を提案する。 BSALはノード属性を介してセマンティックトポロジを構築し、セマンティックビューに関する埋め込みを取得する。 ノード属性が持つ情報を適応的に組み込む、フレキシブルで実装が容易なソリューションを提供する。
  論文  参考訳（メタデータ） (2022-04-18T03:12:13Z)
• SHGNN: Structure-Aware Heterogeneous Graph Neural Network [77.78459918119536]
  本稿では、上記の制約に対処する構造対応不均一グラフニューラルネットワーク(SHGNN)を提案する。 まず,メタパス内の中間ノードの局所構造情報を取得するために,特徴伝搬モジュールを利用する。 次に、ツリーアテンションアグリゲータを使用して、グラフ構造情報をメタパス上のアグリゲーションモジュールに組み込む。 最後に、メタパスアグリゲータを利用して、異なるメタパスから集約された情報を融合する。
  論文  参考訳（メタデータ） (2021-12-12T14:18:18Z)
• Topic-aware latent models for representation learning on networks [5.304857921982132]
  本稿では,トピックベース情報を用いたランダムウォークベースアプローチにより取得したノードの埋め込みを強化する汎用フレームワークであるTNEを紹介する。 提案手法はノード分類とリンク予測という2つのダウンストリームタスクで評価する。
  論文  参考訳（メタデータ） (2021-11-10T08:52:52Z)
• Network Representation Learning: From Preprocessing, Feature Extraction to Node Embedding [9.844802841686105]
  ネットワーク表現学習(NRL)は、ソーシャルネットワーク、知識グラフ、複雑なバイオメディカルおよび物理情報ネットワークの従来のグラフマイニングを進歩させる。 本稿では,同種ネットワーク上でのネットワーク表現学習における設計原理と異なるノード埋め込み手法について概説する。
  論文  参考訳（メタデータ） (2021-10-14T17:46:37Z)
• Temporal Graph Network Embedding with Causal Anonymous Walks Representations [54.05212871508062]
  本稿では,時間グラフネットワークに基づく動的ネットワーク表現学習のための新しいアプローチを提案する。 評価のために、時間的ネットワーク埋め込みの評価のためのベンチマークパイプラインを提供する。 欧州の大手銀行が提供した実世界のダウンストリームグラフ機械学習タスクにおいて、我々のモデルの適用性と優れた性能を示す。
  論文  参考訳（メタデータ） (2021-08-19T15:39:52Z)
• Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
  グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。 本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
  論文  参考訳（メタデータ） (2021-01-16T16:18:43Z)
• Towards Efficient Scene Understanding via Squeeze Reasoning [71.1139549949694]
  我々はSqueeze Reasoningと呼ばれる新しいフレームワークを提案する。 空間地図上の情報を伝播するのではなく、まず入力特徴をチャネルワイドなグローバルベクトルに絞ることを学ぶ。 提案手法はエンドツーエンドのトレーニングブロックとしてモジュール化可能であり,既存のネットワークに簡単に接続可能であることを示す。
  論文  参考訳（メタデータ） (2020-11-06T12:17:01Z)
• Progressive Graph Convolutional Networks for Semi-Supervised Node Classification [97.14064057840089]
  グラフ畳み込みネットワークは、半教師付きノード分類のようなグラフベースのタスクに対処することに成功した。 本稿では,コンパクトかつタスク固有のグラフ畳み込みネットワークを自動構築する手法を提案する。
  論文  参考訳（メタデータ） (2020-03-27T08:32:16Z)
• Self-Supervised Graph Representation Learning via Global Context Prediction [31.07584920486755]
  本稿では,データ自体による自然監督を利用して,グラフ表現学習のための新たな自己教師型戦略を提案する。 グラフ内のノードのペアをランダムに選択し、よく設計されたニューラルネットをトレーニングし、一方のノードのコンテキスト位置を他方と相対的に予測する。 我々の仮説は、そのようなグラフ内コンテキストから得られた表現はグラフのグローバルなトポロジーを捉え、ノード間の類似性と区別を微妙に特徴づける、というものである。
  論文  参考訳（メタデータ） (2020-03-03T15:46:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。