論文の概要: Efficient long-distance relation extraction with DG-SpanBERT
- arxiv url: http://arxiv.org/abs/2004.03636v1
- Date: Tue, 7 Apr 2020 18:21:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-15 22:37:33.042419
- Title: Efficient long-distance relation extraction with DG-SpanBERT
- Title(参考訳): DG-SpanBERTを用いた高効率長距離関係抽出
- Authors: Jun Chen, Robert Hoehndorf, Mohamed Elhoseiny and Xiangliang Zhang
- Abstract要約: 自然言語処理では、関係抽出は非構造化テキストを合理的に理解しようとする。
本稿では,SpanBERTに基づくグラフ畳み込みネットワーク(DG-SpanBERT)を提案する。
我々のモデルは既存の依存性ベースモデルやシーケンスベースモデルよりも優れており、TACREDデータセット上で最先端のパフォーマンスを達成する。
- 参考スコア(独自算出の注目度): 46.07868542443406
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In natural language processing, relation extraction seeks to rationally
understand unstructured text. Here, we propose a novel SpanBERT-based graph
convolutional network (DG-SpanBERT) that extracts semantic features from a raw
sentence using the pre-trained language model SpanBERT and a graph
convolutional network to pool latent features. Our DG-SpanBERT model inherits
the advantage of SpanBERT on learning rich lexical features from large-scale
corpus. It also has the ability to capture long-range relations between
entities due to the usage of GCN on dependency tree. The experimental results
show that our model outperforms other existing dependency-based and
sequence-based models and achieves a state-of-the-art performance on the TACRED
dataset.
- Abstract(参考訳): 自然言語処理では、関係抽出は非構造化テキストを合理的に理解しようとする。
本稿では,事前学習された言語モデルspanbertとグラフ畳み込みネットワークを用いて,意味的特徴を生文から抽出し,潜在的特徴をプールする新しいスパンバート型グラフ畳み込みネットワーク(dg-spanbert)を提案する。
我々のDG-SpanBERTモデルは、大規模コーパスからリッチな語彙特徴を学習する上で、SpanBERTの利点を継承する。
また、依存性ツリーでGCNを使用するため、エンティティ間の長距離関係をキャプチャする機能も備えている。
実験の結果,本モデルは他の依存性ベースおよびシーケンスベースモデルよりも優れており,tacredデータセットで最先端の性能が得られることがわかった。
関連論文リスト
- Entity-Aware Self-Attention and Contextualized GCN for Enhanced Relation Extraction in Long Sentences [5.453850739960517]
本稿では,入力文の構文構造とシーケンスの意味的文脈を効率的に組み込んだ,エンティティを意識した自己意図型GCN(ESC-GCN)を提案する。
本モデルでは,既存の依存性ベースモデルやシーケンスベースモデルと比較して,パフォーマンスの向上を実現している。
論文 参考訳(メタデータ) (2024-09-15T10:50:51Z) - Relational Graph Convolutional Networks for Sentiment Analysis [0.0]
Graph Convolutional Networks(NRGC)は、グラフ内のノードとして表されるデータポイント間の依存関係をキャプチャすることで、解釈性と柔軟性を提供する。
本稿では,Amazon および Digikala データセットの製品レビューにおいて,BERT や RoBERTa などの事前学習言語モデルと RGCN アーキテクチャを用いたアプローチの有効性を示す。
論文 参考訳(メタデータ) (2024-04-16T07:27:49Z) - Relational Extraction on Wikipedia Tables using Convolutional and Memory
Networks [6.200672130699805]
関係抽出(Relation extract、RE)は、テキスト内のエンティティ間の関係を抽出するタスクである。
我々は、エンティティをエンコードするために、畳み込みニューラルネットワーク(CNN)とBidirectional-Long Short Term Memory(BiLSTM)ネットワークからなる新しいモデルを導入する。
論文 参考訳(メタデータ) (2023-07-11T22:36:47Z) - Ordinal Graph Gamma Belief Network for Social Recommender Systems [54.9487910312535]
我々は,階層型ベイズモデルであるオーディナルグラフファクター解析(OGFA)を開発し,ユーザ・イテムとユーザ・ユーザインタラクションを共同でモデル化する。
OGFAは、優れたレコメンデーションパフォーマンスを達成するだけでなく、代表ユーザの好みに応じた解釈可能な潜在因子も抽出する。
我々はOGFAを,マルチ確率層深層確率モデルであるオーディナルグラフガンマ信念ネットワークに拡張する。
論文 参考訳(メタデータ) (2022-09-12T09:19:22Z) - EIGNN: Efficient Infinite-Depth Graph Neural Networks [51.97361378423152]
グラフニューラルネットワーク(GNN)は多くのアプリケーションでグラフ構造化データのモデリングに広く利用されている。
この制限により、無限深度GNNモデルを提案し、これをEIGNN(Efficient Infinite-Depth Graph Neural Networks)と呼ぶ。
EIGNNは、最近のベースラインよりも長距離依存関係をキャプチャする能力が優れており、常に最先端のパフォーマンスを実現していることを示す。
論文 参考訳(メタデータ) (2022-02-22T08:16:58Z) - MrGCN: Mirror Graph Convolution Network for Relation Extraction with
Long-Term Dependencies [32.27755470353054]
関係抽出では、豊富な構文的手がかりを含む依存木がテキストの長期依存を捉えるのに広く使われている。
関係抽出に適したプールアンプール構造を持つGNNモデルであるミラーグラフ畳み込みネットワーク(MrGCN)を提案する。
2つのデータセットを用いた実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2021-01-01T00:52:53Z) - Deep Reinforcement Learning of Graph Matching [63.469961545293756]
ノードとペアの制約下でのグラフマッチング(GM)は、最適化からコンピュータビジョンまでの領域におけるビルディングブロックである。
GMのための強化学習ソルバを提案する。
rgmはペアワイズグラフ間のノード対応を求める。
本手法は,フロントエンドの特徴抽出と親和性関数学習に焦点をあてるという意味において,従来のディープグラフマッチングモデルと異なる。
論文 参考訳(メタデータ) (2020-12-16T13:48:48Z) - Coreferential Reasoning Learning for Language Representation [88.14248323659267]
本稿では,コンテキスト内でコアファーデンシャル関係をキャプチャ可能な新しい言語表現モデルCorefBERTを提案する。
実験の結果,既存のベースラインモデルと比較して,CorefBERTは下流のNLPタスクにおいて一貫した大幅な改善を達成できることがわかった。
論文 参考訳(メタデータ) (2020-04-15T03:57:45Z) - A Dependency Syntactic Knowledge Augmented Interactive Architecture for
End-to-End Aspect-based Sentiment Analysis [73.74885246830611]
エンドツーエンドABSAのためのマルチタスク学習を用いた対話型アーキテクチャを新たに提案する。
このモデルは、よく設計された依存性関係埋め込みグラフ畳み込みネットワーク(DreGcn)を活用することで、構文知識(依存性関係と型)を完全に活用することができる。
3つのベンチマークデータセットの大規模な実験結果から,本手法の有効性が示された。
論文 参考訳(メタデータ) (2020-04-04T14:59:32Z) - Stochastic Natural Language Generation Using Dependency Information [0.7995360025953929]
本稿では,自然言語テキストを生成するコーパスベースモデルを提案する。
我々のモデルは、特徴集合を通じてトレーニングデータから依存関係を符号化し、与えられた意味表現のための新しい依存木を生成する。
本モデルでは, 品質だけでなく, 情報性, 自然性といった面においても, 高品質な発話を生成できることが示されている。
論文 参考訳(メタデータ) (2020-01-12T09:40:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。