論文の概要: Event Knowledge Incorporation with Posterior Regularization for
Event-Centric Question Answering
- arxiv url: http://arxiv.org/abs/2305.04522v1
- Date: Mon, 8 May 2023 07:45:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-09 15:17:42.529314
- Title: Event Knowledge Incorporation with Posterior Regularization for
Event-Centric Question Answering
- Title(参考訳): イベント中心質問応答のための後正則化を伴うイベント知識の導入
- Authors: Junru Lu, Gabriele Pergola, Lin Gui, Yulan He
- Abstract要約: 本稿では,イベントトリガアノテーションから抽出したイベント知識を後続正則化により組み込む戦略を提案する。
特に、QAデータセットのイベントトリガアノテーションに基づいて、イベント関連の知識制約を定義します。
イベント中心の2つのQAデータセットであるTORQUEとESTERについて実験を行った。
- 参考スコア(独自算出の注目度): 32.03893317439898
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a simple yet effective strategy to incorporate event knowledge
extracted from event trigger annotations via posterior regularization to
improve the event reasoning capability of mainstream question-answering (QA)
models for event-centric QA. In particular, we define event-related knowledge
constraints based on the event trigger annotations in the QA datasets, and
subsequently use them to regularize the posterior answer output probabilities
from the backbone pre-trained language models used in the QA setting. We
explore two different posterior regularization strategies for extractive and
generative QA separately. For extractive QA, the sentence-level event knowledge
constraint is defined by assessing if a sentence contains an answer event or
not, which is later used to modify the answer span extraction probability. For
generative QA, the token-level event knowledge constraint is defined by
comparing the generated token from the backbone language model with the answer
event in order to introduce a reward or penalty term, which essentially adjusts
the answer generative probability indirectly. We conduct experiments on two
event-centric QA datasets, TORQUE and ESTER. The results show that our proposed
approach can effectively inject event knowledge into existing pre-trained
language models and achieves strong performance compared to existing QA models
in answer evaluation. Code and models can be found:
https://github.com/LuJunru/EventQAviaPR.
- Abstract(参考訳): 本稿では、イベントトリガアノテーションから抽出したイベント知識を後続正則化により組み込むことにより、イベント中心QAのための主流質問応答(QA)モデルのイベント推論能力を向上させるための簡易かつ効果的な戦略を提案する。
特に、QAデータセットのイベントトリガアノテーションに基づいてイベント関連知識制約を定義し、その後、後続の応答出力確率をQA設定で使用されるバックボーン事前学習言語モデルから調整する。
抽出QAと生成QAの2つの異なる後方正規化戦略を別々に検討した。
抽出QAについて、文レベル事象知識制約は、文が解答イベントを含むか否かを評価し、後に解答スパン抽出確率を変更するために使用される。
生成QAについては、バックボーン言語モデルから生成されたトークンと応答イベントを比較して、応答生成確率を本質的に間接的に調整する報奨項やペナルティ項を導入することにより、トークンレベルのイベント知識制約を定義する。
イベント中心の2つのQAデータセットであるTORQUEとESTERについて実験を行った。
提案手法は,既存の学習済み言語モデルにイベント知識を効果的に注入し,応答評価において既存のQAモデルと比較して高い性能が得られることを示す。
コードとモデルは、https://github.com/LuJunru/EventQAviaPR.comで参照できる。
関連論文リスト
- QASnowball: An Iterative Bootstrapping Framework for High-Quality
Question-Answering Data Generation [67.27999343730224]
QAデータ拡張のための反復型ブートストラップフレームワーク(QASnowball)を導入する。
QASnowballは、教師付きサンプルのシードセットに基づいて、大規模で高品質なQAデータを反復的に生成することができる。
本研究では, 高資源の英語シナリオと中資源の中国語シナリオで実験を行い, 実験結果から, QASnowball が生成したデータによりQAモデルを容易に作成できることが示唆された。
論文 参考訳(メタデータ) (2023-09-19T05:20:36Z) - DAPrompt: Deterministic Assumption Prompt Learning for Event Causality
Identification [8.102227953905206]
事象因果同定(ECI)は、2つの事象の言及の間に因果関係があるかどうかを決定することを目的としている。
ECIタスクに対して,DAPromptと呼ばれる決定論的仮定プロンプト学習モデルを提案する。
我々は、予測事象の確率を用いて、最終事象因果決定の仮定合理性を評価する。
論文 参考訳(メタデータ) (2023-07-19T08:02:20Z) - Event Extraction as Question Generation and Answering [72.04433206754489]
イベント抽出に関する最近の研究は、質問回答(QA)としてタスクを再編成した。
そこで我々は,QGA-EEを提案する。QGモデルにより,定型テンプレートを使わずに,リッチな文脈情報を含む質問を生成することができる。
実験の結果、QGA-EEはACE05の英語データセットで以前のシングルタスクベースのモデルよりも優れていた。
論文 参考訳(メタデータ) (2023-07-10T01:46:15Z) - Event-Centric Question Answering via Contrastive Learning and Invertible
Event Transformation [29.60817278635999]
そこで我々は,TranCLRと呼ばれる,対照的な学習と可逆的なイベント変換を備えた新しいQAモデルを提案する。
提案モデルは,イベントの意味的ベクトルを共通事象埋め込み空間に投影し,コントラスト学習で学習し,イベントの意味的知識を主流のQAパイプラインに自然に注入するために,可逆変換行列を利用する。
論文 参考訳(メタデータ) (2022-10-24T01:15:06Z) - Learning Constraints and Descriptive Segmentation for Subevent Detection [74.48201657623218]
本稿では,サブイベント検出とEventSeg予測の依存関係をキャプチャする制約を学習し,強制するアプローチを提案する。
我々は制約学習にRectifier Networksを採用し、学習した制約をニューラルネットワークの損失関数の正規化項に変換する。
論文 参考訳(メタデータ) (2021-09-13T20:50:37Z) - Event Detection as Question Answering with Entity Information [5.761450181435801]
本稿では,複数回答の可能性とエンティティのサポートを考慮した質問応答(QA)問題として,イベント検出(ED)タスクのパラダイムを提案する。
イベントトリガーの抽出は、コンテキストから回答の範囲を識別するタスクに変換されると同時に、周囲のエンティティにもフォーカスされる。
ACE2005コーパスの実験は、提案されたパラダイムがEDタスクの実行可能なソリューションであり、最先端のモデルよりも大幅に優れていることを示した。
論文 参考訳(メタデータ) (2021-04-14T16:53:11Z) - Detecting Ongoing Events Using Contextual Word and Sentence Embeddings [110.83289076967895]
本稿では,OED(Ongoing Event Detection)タスクを紹介する。
目的は、歴史、未来、仮説、あるいは新しいものでも現在のものでもない他の形式や出来事に対してのみ、進行中のイベントの言及を検出することである。
構造化されていないテキストから進行中のイベントに関する構造化情報を抽出する必要があるアプリケーションは、OEDシステムを利用することができる。
論文 参考訳(メタデータ) (2020-07-02T20:44:05Z) - Harvesting and Refining Question-Answer Pairs for Unsupervised QA [95.9105154311491]
教師なし質問回答(QA)を改善するための2つのアプローチを提案する。
まず、ウィキペディアから語彙的・構文的に異なる質問を抽出し、質問応答対のコーパスを自動的に構築する(RefQAと名づけられる)。
第2に、より適切な回答を抽出するためにQAモデルを活用し、RefQA上でデータを反復的に洗練する。
論文 参考訳(メタデータ) (2020-05-06T15:56:06Z) - Template-Based Question Generation from Retrieved Sentences for Improved
Unsupervised Question Answering [98.48363619128108]
擬似学習データを用いてQAモデルを訓練するための教師なしアプローチを提案する。
関連した検索文に簡単なテンプレートを適用してQA学習のための質問を生成すると、元の文脈文よりも、下流QAのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2020-04-24T17:57:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。