論文の概要: GADePo: Graph-Assisted Declarative Pooling Transformers for
Document-Level Relation Extraction
- arxiv url: http://arxiv.org/abs/2308.14423v1
- Date: Mon, 28 Aug 2023 09:04:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-29 14:40:54.399641
- Title: GADePo: Graph-Assisted Declarative Pooling Transformers for
Document-Level Relation Extraction
- Title(参考訳): GADePo:文書レベル関係抽出のためのグラフ支援宣言型ポーリング変換器
- Authors: Andrei C. Coman, Christos Theodoropoulos, Marie-Francine Moens, James
Henderson
- Abstract要約: 文書レベルの関係抽出は、文書内のエンティティ間の関係を特定することを目的としている。
現在の手法はテキストベースのエンコーダに依存しており、情報を集約するために様々な手書きプーリングを使用している。
トランスフォーマーモデルの内在的なグラフ処理機能を活用することにより,これらの厳密なプール関数を明示的なグラフ関係に置き換える。
- 参考スコア(独自算出の注目度): 31.028427528376984
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Document-level relation extraction aims to identify relationships between
entities within a document. Current methods rely on text-based encoders and
employ various hand-coded pooling heuristics to aggregate information from
entity mentions and associated contexts. In this paper, we replace these rigid
pooling functions with explicit graph relations by leveraging the intrinsic
graph processing capabilities of the Transformer model. We propose a joint
text-graph Transformer model, and a graph-assisted declarative pooling (GADePo)
specification of the input which provides explicit and high-level instructions
for information aggregation. This allows the pooling process to be guided by
domain-specific knowledge or desired outcomes but still learned by the
Transformer, leading to more flexible and customizable pooling strategies. We
extensively evaluate our method across diverse datasets and models, and show
that our approach yields promising results that are comparable to those
achieved by the hand-coded pooling functions.
- Abstract(参考訳): 文書レベルの関係抽出は、文書内のエンティティ間の関係を識別することを目的としている。
現在の手法はテキストベースのエンコーダに依存しており、エンティティの参照や関連するコンテキストから情報を集約するために様々な手書きプーリングヒューリスティックを使用している。
本稿では,これらの厳密なプーリング関数を,トランスフォーマーモデルの固有グラフ処理機能を利用して明示的なグラフ関係に置き換える。
本稿では,共同テキストグラフ変換モデルと,情報集約のための明示的かつ高レベルな命令を提供する入力のグラフ支援宣言プール(GADePo)仕様を提案する。
これにより、プーリングプロセスはドメイン固有の知識や望ましい結果によって導かれるが、トランスフォーマーによっても学習され、より柔軟でカスタマイズ可能なプーリング戦略につながる。
提案手法は多様なデータセットやモデルにまたがって広範に評価され,手作業によるプール機能に匹敵する有望な結果が得られることを示す。
関連論文リスト
- Context-Enhanced Relational Operators with Vector Embeddings [8.80592433569832]
本稿では,コンテキスト強化型リレーショナル結合を提案し,リレーショナル演算子と結合可能な埋め込み演算子を提案する。
これにより、リレーショナル代数と代数的同値性を持つハイブリッドリレーショナルおよびコンテキストリッチなベクトルデータ処理が可能となる。
論理的から物理的まで、全体最適化の重要性は、実行時間を大幅に改善する順に示される。
論文 参考訳(メタデータ) (2023-12-03T18:23:48Z) - Semi-automatic Data Enhancement for Document-Level Relation Extraction
with Distant Supervision from Large Language Models [26.523153535336725]
ドキュメントレベルの関係抽出(DocRE)は、長いコンテキストから関係を抽出することを目的としている。
本稿では,大規模言語モデル (LLM) と自然言語推論 (NLI) モジュールを統合する手法を提案する。
DocGNREと呼ばれる拡張データセットを導入することで,提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2023-11-13T13:10:44Z) - DocTr: Document Transformer for Structured Information Extraction in
Documents [36.1145541816468]
本稿では、視覚的にリッチな文書から構造化情報を取り出すための新しい定式化について述べる。
既存のIOBタグやグラフベースの定式化の制限に対処することを目的としている。
我々は、エンティティをアンカーワードとバウンディングボックスとして表現し、エンティティリンクをアンカーワードの関連付けとして表現する。
論文 参考訳(メタデータ) (2023-07-16T02:59:30Z) - ReSel: N-ary Relation Extraction from Scientific Text and Tables by
Learning to Retrieve and Select [53.071352033539526]
学術論文からN-ary関係を抽出する問題について考察する。
提案手法であるReSelは,このタスクを2段階のプロシージャに分解する。
3つの科学的情報抽出データセットに対する実験により、ReSelは最先端のベースラインを大きく上回っていることがわかった。
論文 参考訳(メタデータ) (2022-10-26T02:28:02Z) - Proton: Probing Schema Linking Information from Pre-trained Language
Models for Text-to-SQL Parsing [66.55478402233399]
本稿では,ポアンカー距離測定に基づく探索手法を用いて,関係構造を抽出する枠組みを提案する。
スキーマリンクの一般的なルールベース手法と比較して,探索関係は意味的対応をしっかりと捉えることができることがわかった。
我々のフレームワークは3つのベンチマークで最先端のパフォーマンスを新たに設定する。
論文 参考訳(メタデータ) (2022-06-28T14:05:25Z) - HETFORMER: Heterogeneous Transformer with Sparse Attention for Long-Text
Extractive Summarization [57.798070356553936]
HETFORMERはトランスフォーマーをベースとした事前学習モデルであり、抽出要約のための多粒度スパースアテンションを持つ。
単一文書と複数文書の要約タスクの実験から,HETFORMERがルージュF1の最先端性能を達成することが示された。
論文 参考訳(メタデータ) (2021-10-12T22:42:31Z) - Learning to Synthesize Data for Semantic Parsing [57.190817162674875]
本稿では,プログラムの構成をモデル化し,プログラムを発話にマップする生成モデルを提案する。
PCFGと事前学習されたBARTの簡易性により,既存のデータから効率的に生成モデルを学習することができる。
GeoQuery と Spider の標準ベンチマークで解析する text-to-Query の in-domain と out-of-domain の両方で、この手法を評価します。
論文 参考訳(メタデータ) (2021-04-12T21:24:02Z) - Document-Level Relation Extraction with Reconstruction [28.593318203728963]
文書レベルの関係抽出(DocRE)のための新しいエンコーダ分類器再構成モデルを提案する。
再構築器は、グラフ表現からの基底経路依存性を再構築し、提案されたDocREモデルがトレーニングにおけるエンティティペアと関係をエンコードすることにもっと注意を払っていることを確認する。
大規模docreデータセットにおける実験結果から,提案モデルにより,グラフベースラインにおける関係抽出精度が大幅に向上することが示された。
論文 参考訳(メタデータ) (2020-12-21T14:29:31Z) - HittER: Hierarchical Transformers for Knowledge Graph Embeddings [85.93509934018499]
複雑な知識グラフにおける実体と関係の表現を学習するためにHittを提案する。
実験結果から,Hittは複数リンク予測において最先端の新たな結果が得られることがわかった。
さらに,HittをBERTに統合する簡単なアプローチを提案し,その効果を2つのFreebaseファクトイド対応データセットで示す。
論文 参考訳(メタデータ) (2020-08-28T18:58:15Z) - Leveraging Graph to Improve Abstractive Multi-Document Summarization [50.62418656177642]
我々は、文書のよく知られたグラフ表現を活用することができる、抽象的多文書要約(MDS)モデルを開発する。
本モデルでは,長い文書の要約に欠かせない文書間関係を捉えるために,文書の符号化にグラフを利用する。
また,このモデルでは,要約生成プロセスの導出にグラフを利用することが可能であり,一貫性と簡潔な要約を生成するのに有用である。
論文 参考訳(メタデータ) (2020-05-20T13:39:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。