論文の概要: Towards Better Document-level Relation Extraction via Iterative
Inference
- arxiv url: http://arxiv.org/abs/2211.14470v1
- Date: Sat, 26 Nov 2022 03:57:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 17:28:10.746446
- Title: Towards Better Document-level Relation Extraction via Iterative
Inference
- Title(参考訳): 反復推論による文書レベルの関係抽出
- Authors: Liang Zhang, Jinsong Su, Yidong Chen, Zhongjian Miao, Zijun Min,
Qingguo Hu, Xiaodong Shi
- Abstract要約: 文書レベルの関係抽出(RE)は、入力文書からエンティティ間の関係を抽出することを目的としている。
本稿では,反復推論を用いた新しい文書レベルのREモデルを提案する。
3つの一般的なデータセットの実験結果から、我々のモデルは、他の競争ベースラインよりも一貫して優れています。
- 参考スコア(独自算出の注目度): 29.62043809208398
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Document-level relation extraction (RE) aims to extract the relations between
entities from the input document that usually containing many
difficultly-predicted entity pairs whose relations can only be predicted
through relational inference. Existing methods usually directly predict the
relations of all entity pairs of input document in a one-pass manner, ignoring
the fact that predictions of some entity pairs heavily depend on the predicted
results of other pairs. To deal with this issue, in this paper, we propose a
novel document-level RE model with iterative inference. Our model is mainly
composed of two modules: 1) a base module expected to provide preliminary
relation predictions on entity pairs; 2) an inference module introduced to
refine these preliminary predictions by iteratively dealing with
difficultly-predicted entity pairs depending on other pairs in an easy-to-hard
manner. Unlike previous methods which only consider feature information of
entity pairs, our inference module is equipped with two Extended Cross
Attention units, allowing it to exploit both feature information and previous
predictions of entity pairs during relational inference. Furthermore, we adopt
a two-stage strategy to train our model. At the first stage, we only train our
base module. During the second stage, we train the whole model, where
contrastive learning is introduced to enhance the training of inference module.
Experimental results on three commonly-used datasets show that our model
consistently outperforms other competitive baselines.
- Abstract(参考訳): 文書レベルの関係抽出(RE)は、通常、関係が関係推論によってのみ予測できる多くの困難なエンティティペアを含む入力文書からエンティティ間の関係を抽出することを目的としている。
既存の手法は通常、入力文書の全てのエンティティ対の関係をワンパスで直接予測し、あるエンティティ対の予測が他のエンティティ対の予測結果に大きく依存しているという事実を無視している。
この問題に対処するため,本稿では,反復推論を用いた新しい文書レベルのリモデルを提案する。
私たちのモデルはおもに2つのモジュールで構成されています。
1) 実体対に関する予備的関係予測を提供する予定の基モジュール
2) 予測の難しいエンティティペアを他のペアに依存して反復的に扱うことにより,これらの予備予測を洗練するために導入された推論モジュール。
エンティティペアの特徴情報のみを考える従来の方法とは異なり、我々の推論モジュールは2つの拡張クロスアテンションユニットを備えており、リレーショナル推論中にエンティティペアの特徴情報と以前の予測の両方を活用できる。
さらに、モデルをトレーニングするための2段階の戦略を採用しています。
最初の段階では、ベースモジュールのみをトレーニングします。
第2段階では、推論モジュールのトレーニングを強化するために、コントラスト学習が導入されるモデル全体をトレーニングします。
3つの一般的なデータセットでの実験結果は、我々のモデルは一貫して他の競合ベースラインを上回ることを示している。
関連論文リスト
- Entity or Relation Embeddings? An Analysis of Encoding Strategies for Relation Extraction [19.019881161010474]
関係抽出は、本質的にはテキスト分類問題であり、事前学習言語モデル(LM)を微調整することで取り組める。
既存のアプローチでは、LMを微調整して頭と尾のエンティティの埋め込みを学習し、それらのエンティティの埋め込みから関係を予測する。
本稿では,より直接的な方法で関係を捉えることにより,関係抽出モデルを改善することができるという仮説を立てる。
論文 参考訳(メタデータ) (2023-12-18T09:58:19Z) - ProtoEM: A Prototype-Enhanced Matching Framework for Event Relation
Extraction [69.74158631862652]
イベント関係抽出(ERE)は、テキスト中のイベント間の複数の種類の関係を抽出することを目的としている。
既存の手法では、イベント関係を異なるクラスに分類し、これらの関係の本質的な意味を不適切に捉えている。
複数種類の事象関係の連成抽出のためのプロトタイプ強化マッチング(ProtoEM)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-09-22T14:26:06Z) - A Simple yet Effective Relation Information Guided Approach for Few-Shot
Relation Extraction [22.60428265210431]
Few-Shot Relation extractは、文中の一対の実体の関係を、各関係にいくつかのラベル付き例で訓練することによって予測することを目的としている。
原型ネットワークに基づくモデル学習を支援するための関係情報を導入した最近の研究もある。
関係情報はモデルにより明確かつ効果的に導入できると論じる。
論文 参考訳(メタデータ) (2022-05-19T13:03:01Z) - Document-Level Relation Extraction with Sentences Importance Estimation
and Focusing [52.069206266557266]
文書レベルの関係抽出(DocRE)は、複数の文の文書から2つのエンティティ間の関係を決定することを目的としている。
我々はDocREのための文重要度スコアと文集中損失を設計するSIEF(Sentence Estimation and Focusing)フレームワークを提案する。
2つのドメインの実験結果から、SIEFは全体的なパフォーマンスを改善するだけでなく、DocREモデルをより堅牢にします。
論文 参考訳(メタデータ) (2022-04-27T03:20:07Z) - Document-level Relation Extraction with Context Guided Mention
Integration and Inter-pair Reasoning [18.374097786748834]
文書レベルの関係抽出(DRE)は、2つの実体間の関係を認識することを目的としている。
これまでの研究では、言及の統合についてはほとんど研究されていないが、これは問題となるかもしれない。
本稿では,コンテキストガイドメンション統合とペア間推論という2つの新しい手法を提案する。
論文 参考訳(メタデータ) (2022-01-13T08:00:23Z) - Link Prediction on N-ary Relational Data Based on Relatedness Evaluation [61.61555159755858]
我々は,n-aryリレーショナルデータ上でリンク予測を行うNaLPという手法を提案する。
各 n 個の関係事実を、その役割と役割と値のペアの集合として表現する。
実験結果は,提案手法の有効性と有用性を検証した。
論文 参考訳(メタデータ) (2021-04-21T09:06:54Z) - Paired Examples as Indirect Supervision in Latent Decision Models [109.76417071249945]
我々は、ペア化された例を活用して、潜在的な決定を学習するためのより強力な手がかりを提供する方法を紹介します。
DROPデータセット上のニューラルネットワークを用いた合成質問応答の改善に本手法を適用した。
論文 参考訳(メタデータ) (2021-04-05T03:58:30Z) - Learning Relation Prototype from Unlabeled Texts for Long-tail Relation
Extraction [84.64435075778988]
本稿では,ラベルのないテキストから関係プロトタイプを学習するための一般的なアプローチを提案する。
我々は、エンティティ間の暗黙的な要因として関係プロトタイプを学習する。
私たちは、New York TimesとGoogle Distant Supervisionの2つの公開データセットで実験を行います。
論文 参考訳(メタデータ) (2020-11-27T06:21:12Z) - A Frustratingly Easy Approach for Entity and Relation Extraction [25.797992240847833]
本稿では,エンティティと関係抽出のための簡単なパイプライン化手法を提案する。
標準ベンチマーク(ACE04、ACE05、SciERC)における新しい最先端技術を確立する。
このアプローチは基本的に2つの独立したエンコーダ上に構築され、単にエンティティモデルを使用して関係モデルの入力を構築します。
論文 参考訳(メタデータ) (2020-10-24T07:14:01Z) - Learning to Decouple Relations: Few-Shot Relation Classification with
Entity-Guided Attention and Confusion-Aware Training [49.9995628166064]
本稿では,2つのメカニズムを備えたモデルであるCTEGを提案する。
一方、注意を誘導するEGA機構を導入し、混乱を引き起こす情報をフィルタリングする。
一方,コンフュージョン・アウェア・トレーニング(CAT)法は,関係の識別を明示的に学習するために提案されている。
論文 参考訳(メタデータ) (2020-10-21T11:07:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。