論文の概要: Adversarial Context Aware Network Embeddings for Textual Networks
- arxiv url: http://arxiv.org/abs/2011.02665v1
- Date: Thu, 5 Nov 2020 05:20:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-29 11:40:18.163284
- Title: Adversarial Context Aware Network Embeddings for Textual Networks
- Title(参考訳): テクストネットワークのための文脈認識型ネットワーク埋め込み
- Authors: Tony Gracious, Ambedkar Dukkipati
- Abstract要約: 既存のアプローチでは、接続ノードの埋め込みを同様のものにすることで、テキストとネットワーク構造の埋め込みを学習する。
これは、これらのアプローチが埋め込みを学ぶためにエッジ情報を必要としており、目に見えないノードの埋め込みを学ぶことができないことを意味している。
本稿では,モダリティ融合と未確認ノードの埋め込みを学習する能力の両方を実現するアプローチを提案する。
- 参考スコア(独自算出の注目度): 8.680676599607123
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation learning of textual networks poses a significant challenge as
it involves capturing amalgamated information from two modalities: (i)
underlying network structure, and (ii) node textual attributes. For this, most
existing approaches learn embeddings of text and network structure by enforcing
embeddings of connected nodes to be similar. Then for achieving a modality
fusion they use the similarities between text embedding of a node with the
structure embedding of its connected node and vice versa. This implies that
these approaches require edge information for learning embeddings and they
cannot learn embeddings of unseen nodes. In this paper we propose an approach
that achieves both modality fusion and the capability to learn embeddings of
unseen nodes. The main feature of our model is that it uses an adversarial
mechanism between text embedding based discriminator, and structure embedding
based generator to learn efficient representations. Then for learning
embeddings of unseen nodes, we use the supervision provided by the text
embedding based discriminator. In addition this, we propose a novel
architecture for learning text embedding that can combine both mutual attention
and topological attention mechanism, which give more flexible text embeddings.
Through extensive experiments on real-world datasets, we demonstrate that our
model makes substantial gains over several state-of-the-art benchmarks. In
comparison with previous state-of-the-art, it gives up to 7% improvement in
performance in predicting links among nodes seen in the training and up to 12%
improvement in performance in predicting links involving nodes not seen in
training. Further, in the node classification task, it gives up to 2%
improvement in performance.
- Abstract(参考訳): テキストネットワークの表現学習は、2つのモダリティから集約された情報をキャプチャする上で重要な課題となる。
(i)基盤となるネットワーク構造、及び
(ii)ノードのテキスト属性。
このため、既存のほとんどのアプローチは、接続されたノードの埋め込みを同様のものにすることで、テキストとネットワーク構造の埋め込みを学ぶ。
そして、モダリティ融合を達成するために、接続ノードの構造埋め込みとノードのテキスト埋め込みの類似性を使い、その逆も使う。
これは、これらのアプローチが組込みを学ぶためにエッジ情報を必要とし、見えないノードの組込みを学べないことを意味する。
本稿では,モダリティ融合と未知ノードの埋め込みを学習する能力の両方を実現する手法を提案する。
本モデルの主な特徴は,テキスト埋め込みベース識別器と構造埋め込みベースジェネレータの相反メカニズムを用いて効率的な表現を学習することである。
そして、未認識ノードの埋め込みを学ぶために、テキスト埋め込みベースの判別器によって提供される監督を利用する。
さらに, 相互注意と位相的注意機構を組み合わせることで, より柔軟なテキスト埋め込みを実現する, テキスト埋め込み学習のための新しいアーキテクチャを提案する。
実世界のデータセットに関する広範な実験を通じて、我々のモデルはいくつかの最先端ベンチマークよりも大幅に向上することを示した。
以前の最先端と比較すると、トレーニングで見られるノード間のリンクを予測する際のパフォーマンスが最大7%向上し、トレーニングで見られないノードを含むリンクを予測する際のパフォーマンスが最大12%向上した。
さらに、ノード分類タスクでは、パフォーマンスが最大2%向上する。
関連論文リスト
- Unleashing the Potential of Text-attributed Graphs: Automatic Relation Decomposition via Large Language Models [31.443478448031886]
RoSE (Relation-oriented Semantic Edge-Decomposition) は、生のテキスト属性を分析してグラフ構造を分解する新しいフレームワークである。
我々のフレームワークは、さまざまなデータセットのノード分類性能を大幅に向上させ、ウィスコンシンデータセットでは最大16%の改善を実現した。
論文 参考訳(メタデータ) (2024-05-28T20:54:47Z) - TeKo: Text-Rich Graph Neural Networks with External Knowledge [75.91477450060808]
外部知識を用いた新しいテキストリッチグラフニューラルネットワーク(TeKo)を提案する。
まず、高品質なエンティティを組み込んだフレキシブルな異種セマンティックネットワークを提案する。
次に、構造化三重項と非構造化実体記述という2種類の外部知識を導入する。
論文 参考訳(メタデータ) (2022-06-15T02:33:10Z) - Link Prediction with Contextualized Self-Supervision [63.25455976593081]
リンク予測は、ネットワーク内の2つのノード間のリンクの存在を推測することを目的としている。
従来のリンク予測アルゴリズムは、リンク空間、ノード属性ノイズ、ネットワークダイナミクスという3つの大きな課題によって妨げられている。
本稿では,リンク予測のための構造的コンテキスト予測を完全に活用する,コンテキスト適応型自己監視学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-01-25T03:12:32Z) - Temporal Graph Network Embedding with Causal Anonymous Walks
Representations [54.05212871508062]
本稿では,時間グラフネットワークに基づく動的ネットワーク表現学習のための新しいアプローチを提案する。
評価のために、時間的ネットワーク埋め込みの評価のためのベンチマークパイプラインを提供する。
欧州の大手銀行が提供した実世界のダウンストリームグラフ機械学習タスクにおいて、我々のモデルの適用性と優れた性能を示す。
論文 参考訳(メタデータ) (2021-08-19T15:39:52Z) - Variational Co-embedding Learning for Attributed Network Clustering [30.7006907516984]
属性ネットワーククラスタリングの最近の研究は、グラフ畳み込みを利用してノード埋め込みを取得し、同時に埋め込み空間上でクラスタリング割り当てを行う。
属性ネットワーククラスタリング(ANC)のための分散共埋め込み学習モデルを提案する。
ANCは、ノードと属性を同時に埋め込む2つの変分自動エンコーダで構成されている。
論文 参考訳(メタデータ) (2021-04-15T08:11:47Z) - Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。
対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。
また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文 参考訳(メタデータ) (2021-01-06T03:05:37Z) - GAGE: Geometry Preserving Attributed Graph Embeddings [34.25102483600248]
本稿では,属性ネットワークにノードを埋め込む手法を提案する。
接続と属性の両方の距離を保存する。
学習課題に取り組むために,効率的かつ軽量なアルゴリズムを開発した。
論文 参考訳(メタデータ) (2020-11-03T02:07:02Z) - DINE: A Framework for Deep Incomplete Network Embedding [33.97952453310253]
本稿では,ディープ不完全ネットワーク埋め込み,すなわちDINEを提案する。
まず、期待最大化フレームワークを用いて、部分的に観測可能なネットワーク内のノードとエッジの両方を含む欠落部分を完成させる。
マルチラベル分類およびリンク予測タスクにおいて,DINEを3つのネットワーク上で評価する。
論文 参考訳(メタデータ) (2020-08-09T04:59:35Z) - Unsupervised Differentiable Multi-aspect Network Embedding [52.981277420394846]
本稿では,asp2vecと呼ばれるマルチアスペクトネットワーク埋め込みのための新しいエンドツーエンドフレームワークを提案する。
提案するフレームワークは容易に異種ネットワークに拡張できる。
論文 参考訳(メタデータ) (2020-06-07T19:26:20Z) - Exploiting Structured Knowledge in Text via Graph-Guided Representation
Learning [73.0598186896953]
本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。
エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。
既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
論文 参考訳(メタデータ) (2020-04-29T14:22:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。