論文の概要: DREEAM: Guiding Attention with Evidence for Improving Document-Level Relation Extraction

• arxiv url: http://arxiv.org/abs/2302.08675v1
• Date: Fri, 17 Feb 2023 03:54:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-20 15:58:31.499133
• Title: DREEAM: Guiding Attention with Evidence for Improving Document-Level Relation Extraction
• Title（参考訳）: DREEAM: ドキュメントレベルの関係抽出を改善するためのエビデンスによる注意喚起
• Authors: Youmi Ma, An Wang, Naoaki Okazaki
• Abstract要約: ドキュメントレベルの関係抽出(DocRE)におけるエビデンス検索は、高メモリ消費とアノテーションの可用性の制限という2つの大きな問題に直面している。 そこで我々は,エビデンス情報を監視信号として採用したメモリ効率の高いDREEAMを提案する。 実験結果から,本手法はDocREとERの両方のDocREDベンチマークにおいて,最先端の性能を示すことがわかった。
• 参考スコア（独自算出の注目度）: 13.076163309118702
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Document-level relation extraction (DocRE) is the task of identifying all relations between each entity pair in a document. Evidence, defined as sentences containing clues for the relationship between an entity pair, has been shown to help DocRE systems focus on relevant texts, thus improving relation extraction. However, evidence retrieval (ER) in DocRE faces two major issues: high memory consumption and limited availability of annotations. This work aims at addressing these issues to improve the usage of ER in DocRE. First, we propose DREEAM, a memory-efficient approach that adopts evidence information as the supervisory signal, thereby guiding the attention modules of the DocRE system to assign high weights to evidence. Second, we propose a self-training strategy for DREEAM to learn ER from automatically-generated evidence on massive data without evidence annotations. Experimental results reveal that our approach exhibits state-of-the-art performance on the DocRED benchmark for both DocRE and ER. To the best of our knowledge, DREEAM is the first approach to employ ER self-training.
• Abstract（参考訳）: ドキュメントレベルの関係抽出(DocRE)は、ドキュメント内の各エンティティペア間のすべての関係を識別するタスクである。 エンティティペア間の関係の手がかりを含む文として定義される証拠は、docreシステムが関連するテキストに集中し、関係抽出を改善するのに役立つことが示されている。 しかし、DocREのエビデンス検索(ER)は2つの大きな問題に直面している。 この作業は、これらの問題に対処し、DocREにおけるERの使用を改善することを目的としている。 まず、メモリ効率のよいDREEAMを提案し、エビデンス情報を監視信号として採用し、DocREシステムのアテンションモジュールを誘導し、エビデンスに重みを割り当てる。 第2に,大量のデータから自動生成した証拠からerを学ぶための自己学習戦略を提案する。 実験結果から,本手法はDocREとERの両ベンチマークにおいて,最先端の性能を示すことがわかった。 私たちの知る限りでは、DREEAMはER自己学習を採用する最初のアプローチです。

関連論文リスト

• DiVA-DocRE: A Discriminative and Voice-Aware Paradigm for Document-Level Relation Extraction [0.3208888890455612]
  識別・音声認識パラダイム DiVA を導入する。 私たちの革新はDocREを差別的なタスクに変換することです。 Re-DocREDおよびDocREDデータセットの実験では、DocRTEタスクの最先端の結果が示されている。
  論文  参考訳（メタデータ） (2024-09-07T18:47:38Z)
• GEGA: Graph Convolutional Networks and Evidence Retrieval Guided Attention for Enhanced Document-level Relation Extraction [15.246183329778656]
  ドキュメントレベルの関係抽出(DocRE)は、構造化されていない文書テキストからエンティティ間の関係を抽出することを目的としている。 これらの課題を克服するために,DocREの新しいモデルであるGEGAを提案する。 我々は、広く使用されている3つのベンチマークデータセット、DocRED、Re-DocRED、Revisit-DocREDでGEGAモデルを評価する。
  論文  参考訳（メタデータ） (2024-07-31T07:15:33Z)
• Document-Level Relation Extraction with Sentences Importance Estimation and Focusing [52.069206266557266]
  文書レベルの関係抽出(DocRE)は、複数の文の文書から2つのエンティティ間の関係を決定することを目的としている。 我々はDocREのための文重要度スコアと文集中損失を設計するSIEF(Sentence Estimation and Focusing)フレームワークを提案する。 2つのドメインの実験結果から、SIEFは全体的なパフォーマンスを改善するだけでなく、DocREモデルをより堅牢にします。
  論文  参考訳（メタデータ） (2022-04-27T03:20:07Z)
• Unified Pretraining Framework for Document Understanding [52.224359498792836]
  文書理解のための統合事前学習フレームワークであるUDocを紹介する。 UDocは、ほとんどのドキュメント理解タスクをサポートするように設計されており、Transformerを拡張してマルチモーダル埋め込みを入力とする。 UDocの重要な特徴は、3つの自己管理的損失を利用して汎用的な表現を学ぶことである。
  論文  参考訳（メタデータ） (2022-04-22T21:47:04Z)
• GERE: Generative Evidence Retrieval for Fact Verification [57.78768817972026]
  本稿では,ジェネレーション方式で証拠を検索する最初のシステムであるGEREを提案する。 FEVERデータセットの実験結果は、GEREが最先端のベースラインよりも大幅に改善されていることを示している。
  論文  参考訳（メタデータ） (2022-04-12T03:49:35Z)
• Augmenting Document Representations for Dense Retrieval with Interpolation and Perturbation [49.940525611640346]
  ドキュメント拡張(Document Augmentation for dense Retrieval)フレームワークは、ドキュメントの表現をDense Augmentationとperturbationsで強化する。 2つのベンチマークデータセットによる検索タスクにおけるDARの性能評価を行い、ラベル付き文書とラベルなし文書の密集検索において、提案したDARが関連するベースラインを大幅に上回っていることを示す。
  論文  参考訳（メタデータ） (2022-03-15T09:07:38Z)
• SAIS: Supervising and Augmenting Intermediate Steps for Document-Level Relation Extraction [51.27558374091491]
  本稿では,関係抽出のための中間ステップ(SAIS)を監督し,拡張することにより,関連コンテキストやエンティティタイプをキャプチャするモデルを明示的に教えることを提案する。 そこで本提案手法は,より効果的な管理を行うため,より優れた品質の関係を抽出するだけでなく,それに対応する証拠をより正確に抽出する。
  論文  参考訳（メタデータ） (2021-09-24T17:37:35Z)
• Eider: Evidence-enhanced Document-level Relation Extraction [56.71004595444816]
  文書レベルの関係抽出(DocRE)は、文書内のエンティティペア間の意味関係を抽出することを目的としている。 本稿では,共同関係と証拠抽出,エビデンス中心関係抽出(RE),抽出結果の融合からなる3段階のエビデンス強化DocREフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-06-16T09:43:16Z)
• Entity and Evidence Guided Relation Extraction for DocRED [33.69481141963074]
  この課題に対して,共同トレーニングフレームワークE2GRE(Entity and Evidence Guided Relation extract)を提案する。 事前訓練された言語モデル(例えばBERT, RoBERTa)への入力としてエンティティ誘導シーケンスを導入する。 これらのエンティティ誘導シーケンスは、事前訓練された言語モデル(LM)がエンティティに関連するドキュメントの領域に集中するのに役立ちます。 我々は最近リリースされた関係抽出のための大規模データセットDocREDに対するE2GREアプローチを評価した。
  論文  参考訳（メタデータ） (2020-08-27T17:41:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。