論文の概要: HittER: Hierarchical Transformers for Knowledge Graph Embeddings

• arxiv url: http://arxiv.org/abs/2008.12813v2
• Date: Wed, 6 Oct 2021 04:52:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-24 01:19:22.689842
• Title: HittER: Hierarchical Transformers for Knowledge Graph Embeddings
• Title（参考訳）: HittER:知識グラフ埋め込みのための階層変換器
• Authors: Sanxing Chen, Xiaodong Liu, Jianfeng Gao, Jian Jiao, Ruofei Zhang and Yangfeng Ji
• Abstract要約: 複雑な知識グラフにおける実体と関係の表現を学習するためにHittを提案する。 実験結果から,Hittは複数リンク予測において最先端の新たな結果が得られることがわかった。 さらに,HittをBERTに統合する簡単なアプローチを提案し,その効果を2つのFreebaseファクトイド対応データセットで示す。
• 参考スコア（独自算出の注目度）: 85.93509934018499
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper examines the challenging problem of learning representations of entities and relations in a complex multi-relational knowledge graph. We propose HittER, a Hierarchical Transformer model to jointly learn Entity-relation composition and Relational contextualization based on a source entity's neighborhood. Our proposed model consists of two different Transformer blocks: the bottom block extracts features of each entity-relation pair in the local neighborhood of the source entity and the top block aggregates the relational information from outputs of the bottom block. We further design a masked entity prediction task to balance information from the relational context and the source entity itself. Experimental results show that HittER achieves new state-of-the-art results on multiple link prediction datasets. We additionally propose a simple approach to integrate HittER into BERT and demonstrate its effectiveness on two Freebase factoid question answering datasets.
• Abstract（参考訳）: 本稿では,複合多関係知識グラフにおけるエンティティと関係の学習表現の課題について検討する。 そこで本稿では,エンティティ関係合成と関係文脈化を共学で学習する階層的トランスフォーマモデルhitterを提案する。 提案モデルは2つの異なるトランスフォーマーブロックから構成される: ボトムブロックはソースエンティティの局所近傍にある各エンティティ-リレーションペアの特徴を抽出し、トップブロックはボトムブロックの出力から関係情報を集約する。 さらに、関係コンテキストとソースエンティティ自体からの情報のバランスをとるために、マスク付きエンティティ予測タスクを設計する。 実験の結果,hitterは複数のリンク予測データセットで新たな最先端結果を得ることができた。 また,HittERをBERTに統合する簡単な手法を提案し,その有効性を2つのFreebaseファクトイド質問応答データセットで示す。

関連論文リスト

• Joint Multimodal Entity-Relation Extraction Based on Edge-enhanced Graph Alignment Network and Word-pair Relation Tagging [19.872199943795195]
  本稿では,MNER と MRE を併用したマルチモーダル・エンティティ・リレーション抽出タスクを提案する。 提案手法は,オブジェクトとエンティティ間の補助的なアライメントにエッジ情報を利用することができる。
  論文  参考訳（メタデータ） (2022-11-28T03:23:54Z)
• ReSel: N-ary Relation Extraction from Scientific Text and Tables by Learning to Retrieve and Select [53.071352033539526]
  学術論文からN-ary関係を抽出する問題について考察する。 提案手法であるReSelは,このタスクを2段階のプロシージャに分解する。 3つの科学的情報抽出データセットに対する実験により、ReSelは最先端のベースラインを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2022-10-26T02:28:02Z)
• Informed Multi-context Entity Alignment [27.679124991733907]
  Informed Multi-context Entity Alignment (IMEA)モデルを提案する。 特にTransformerを導入し、関係、経路、近傍のコンテキストを柔軟にキャプチャする。 総論的推論は、埋め込み類似性と関係性/整合性の両方の機能に基づいてアライメント確率を推定するために用いられる。 いくつかのベンチマークデータセットの結果は、既存の最先端エンティティアライメント手法と比較して、IMEAモデルの優位性を示している。
  論文  参考訳（メタデータ） (2022-01-02T06:29:30Z)
• EchoEA: Echo Information between Entities and Relations for Entity Alignment [1.1470070927586016]
  本稿では,エンティティ情報を関係に拡散し,エンティティにエコーバックする自己認識機構を活用した新しいフレームワーク Echo Entity Alignment (EchoEA) を提案する。 3つの実世界のクロスランガルデータセットの実験結果は、平均して96%で安定している。
  論文  参考訳（メタデータ） (2021-07-07T07:34:21Z)
• Enriching Transformers with Structured Tensor-Product Representations for Abstractive Summarization [131.23966358405767]
  抽象的な要約のタスクに対して,明示的に構成された製品表現(TPR)をTP-TRANSFORMERに適用する。 モデルの主な特徴は、トークンごとに2つの別々の表現を符号化することで導入する構造バイアスである。 本稿では,TP-TRANSFORMER が Transformer と TP-TRANSFORMER より優れていることを示す。
  論文  参考訳（メタデータ） (2021-06-02T17:32:33Z)
• RAGA: Relation-aware Graph Attention Networks for Global Entity Alignment [14.287681294725438]
  実体と関係の相互作用を捉えるために,Relation-aware Graph Attention Networksに基づく新しいフレームワークを提案する。 本フレームワークでは,エンティティ情報を関係に分散し,関係情報をエンティティに集約する自己認識機構を採用している。
  論文  参考訳（メタデータ） (2021-03-01T06:30:51Z)
• Context-Enhanced Entity and Relation Embedding for Knowledge Graph Completion [2.580765958706854]
  マルチホップにおけるエンティティコンテキストと関係コンテキストの効率的な集約を行うモデルAggrEを提案する。 実験の結果、AggrEは既存のモデルと競合していることがわかった。
  論文  参考訳（メタデータ） (2020-12-13T09:20:42Z)
• Pre-training Graph Transformer with Multimodal Side Information for Recommendation [82.4194024706817]
  本稿では,項目側情報とその関連性を考慮した事前学習戦略を提案する。 我々はMCNSamplingという新しいサンプリングアルゴリズムを開発し、各項目のコンテキスト近傍を選択する。 The proposed Pre-trained Multimodal Graph Transformer (PMGT) learns item representations with two objectives: 1) graph structure reconstruction, 2) masked node feature reconstruction。
  論文  参考訳（メタデータ） (2020-10-23T10:30:24Z)
• Cross-Supervised Joint-Event-Extraction with Heterogeneous Information Networks [61.950353376870154]
  Joint-event- Extractは、トリガとエンティティのタグからなるタグセットを備えたシーケンスからシーケンスまでのラベリングタスクである。 トリガやエンティティの抽出を交互に監督するクロススーパーバイザードメカニズム(CSM)を提案する。 我々の手法は、エンティティとトリガー抽出の両方において最先端の手法よりも優れています。
  論文  参考訳（メタデータ） (2020-10-13T11:51:17Z)
• ENT-DESC: Entity Description Generation by Exploring Knowledge Graph [53.03778194567752]
  実際には、出力記述が最も重要な知識のみをカバーするため、入力知識は十分以上である可能性がある。 我々は、KG-to-textにおけるこのような実践的なシナリオの研究を容易にするために、大規模で挑戦的なデータセットを導入する。 本稿では,元のグラフ情報をより包括的に表現できるマルチグラフ構造を提案する。
  論文  参考訳（メタデータ） (2020-04-30T14:16:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。