論文の概要: Bidirectional End-to-End Learning of Retriever-Reader Paradigm for Entity Linking

• arxiv url: http://arxiv.org/abs/2306.12245v4
• Date: Wed, 20 Mar 2024 03:51:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-21 22:57:10.508702
• Title: Bidirectional End-to-End Learning of Retriever-Reader Paradigm for Entity Linking
• Title（参考訳）: エンティティリンクのためのRetriever-Reader Paradigmの双方向エンドツーエンド学習
• Authors: Yinghui Li, Yong Jiang, Yangning Li, Xingyu Lu, Pengjun Xie, Ying Shen, Hai-Tao Zheng,
• Abstract要約: RetrieverとReaderのための双方向エンドツーエンドトレーニングフレームワークであるBEER$2$を提案する。 設計した双方向のエンドツーエンドトレーニングを通じて、BEER$2$は、レトリバーとリーダーをガイドし、互いに学び、一緒に前進し、最終的にELパフォーマンスを改善する。
• 参考スコア（独自算出の注目度）: 57.44361768117688
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Entity Linking (EL) is a fundamental task for Information Extraction and Knowledge Graphs. The general form of EL (i.e., end-to-end EL) aims to first find mentions in the given input document and then link the mentions to corresponding entities in a specific knowledge base. Recently, the paradigm of retriever-reader promotes the progress of end-to-end EL, benefiting from the advantages of dense entity retrieval and machine reading comprehension. However, the existing study only trains the retriever and the reader separately in a pipeline manner, which ignores the benefit that the interaction between the retriever and the reader can bring to the task. To advance the retriever-reader paradigm to perform more perfectly on end-to-end EL, we propose BEER$^2$, a Bidirectional End-to-End training framework for Retriever and Reader. Through our designed bidirectional end-to-end training, BEER$^2$ guides the retriever and the reader to learn from each other, make progress together, and ultimately improve EL performance. Extensive experiments on benchmarks of multiple domains demonstrate the effectiveness of our proposed BEER$^2$.
• Abstract（参考訳）: エンティティリンク(EL)は、情報抽出および知識グラフの基本的なタスクである。 ELの一般的な形式(すなわち、エンドツーエンドのEL)は、まず与えられた入力文書に言及を見つけ、次に特定の知識ベースで対応するエンティティにその言及をリンクすることを目的としている。 近年,高密度エンティティ検索と機械読解の利点を生かして,エンド・ツー・エンド・エンドELの進展を促進するレトリバー・リーダーのパラダイムが注目されている。 しかし,既存の研究では,レトリバーとリーダをパイプライン方式で個別に学習するのみであり,レトリバーとリーダのインタラクションがタスクにもたらすメリットを無視している。 RetrieverとReaderのための双方向エンドツーエンドトレーニングフレームワークであるBEER$^2$を提案する。 設計した双方向のエンドツーエンドトレーニングを通じて、BEER$^2$は、レトリバーとリーダーをガイドし、互いに学習し、前進し、最終的にEL性能を向上させる。 複数のドメインのベンチマークに関する大規模な実験は、提案したBEER$^2$の有効性を示す。

関連論文リスト

• ReLiK: Retrieve and LinK, Fast and Accurate Entity Linking and Relation Extraction on an Academic Budget [43.35593460866504]
  エンティティリンク(EL)と関係抽出(RE)のためのRetriever-Readerアーキテクチャを提案する。 我々は、テキストと並んで候補となるエンティティや関係を組み込んだ革新的な入力表現を提唱した。 ELとREの定式化は、ドメイン内ベンチマークとドメイン外ベンチマークの両方で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-07-31T18:25:49Z)
• PromptReps: Prompting Large Language Models to Generate Dense and Sparse Representations for Zero-Shot Document Retrieval [76.50690734636477]
  本稿では,PmptRepsを提案する。このPmptRepsは,トレーニングを必要とせず,コーパス全体から検索できる機能である。 検索システムは、高密度テキスト埋め込みとスパースバッグ・オブ・ワード表現の両方を利用する。
  論文  参考訳（メタデータ） (2024-04-29T04:51:30Z)
• Query Rewriting for Retrieval-Augmented Large Language Models [139.242907155883]
  大規模言語モデル(LLM)は、検索対象のパイプラインで強力なブラックボックスリーダーを動作させる。 この作業では、検索拡張LDMに対する以前の検索テーマ読み込みの代わりに、新しいフレームワークであるRewrite-Retrieve-Readを導入する。
  論文  参考訳（メタデータ） (2023-05-23T17:27:50Z)
• Retrieval as Attention: End-to-end Learning of Retrieval and Reading within a Single Transformer [80.50327229467993]
  学習した1つのモデルが競合検索とQA性能の両方を達成可能であることを示す。 エンドツーエンド適応は、教師なし設定と教師なし設定の両方において、ドメイン外のデータセットのパフォーマンスを大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2022-12-05T04:51:21Z)
• End-to-End Training of Multi-Document Reader and Retriever for Open-Domain Question Answering [36.80395759543162]
  本稿では,検索拡張されたオープンドメイン質問応答システムに対するエンドツーエンドの差別化学習手法を提案する。 我々は,検索決定を関連文書の集合よりも遅延変数としてモデル化する。 提案手法は,一致点の精度を2～3%向上させる。
  論文  参考訳（メタデータ） (2021-06-09T19:25:37Z)
• Is Retriever Merely an Approximator of Reader? [27.306407064073177]
  読み手と受け手は,精度の点でのみ相補的であることを示す。 我々は,レトリバーにリーダを蒸留し,レトリバーが読者の強度を吸収し,自身の利益を維持することを提案する。
  論文  参考訳（メタデータ） (2020-10-21T13:40:15Z)
• Open-Domain Question Answering with Pre-Constructed Question Spaces [70.13619499853756]
  オープンドメインの質問応答は、大量の文書の集合の中でユーザ生成した質問に対する回答を見つけるという課題を解決することを目的としている。 ソリューションには、レトリバーリーダーとナレッジグラフベースのアプローチの2つのファミリーがある。 本稿では,両家系と異なるリーダ・リトリバー構造を持つ新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-02T04:31:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。