論文の概要: EIGEN: Event Influence GENeration using Pre-trained Language Models

• arxiv url: http://arxiv.org/abs/2010.11764v1
• Date: Thu, 22 Oct 2020 14:36:04 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-04 06:41:58.485088
• Title: EIGEN: Event Influence GENeration using Pre-trained Language Models
• Title（参考訳）: EIGEN:事前学習言語モデルを用いた事象影響ジェネレーション
• Authors: Aman Madaan, Dheeraj Rajagopal, Yiming Yang, Abhilasha Ravichander, Eduard Hovy, Shrimai Prabhumoye
• Abstract要約: EIGENは、事前訓練された言語モデルを利用して、コンテキストに条件付けられたイベントの影響を生成する方法である。 イベントインフルエンス生成のための手法の研究と評価のための新しいデータセットを導出する。
• 参考スコア（独自算出の注目度）: 41.64399187919767
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning about events and tracking their influences is fundamental to understanding processes. In this paper, we present EIGEN - a method to leverage pre-trained language models to generate event influences conditioned on a context, nature of their influence, and the distance in a reasoning chain. We also derive a new dataset for research and evaluation of methods for event influence generation. EIGEN outperforms strong baselines both in terms of automated evaluation metrics (by 10 ROUGE points) and human judgments on closeness to reference and relevance of generations. Furthermore, we show that the event influences generated by EIGEN improve the performance on a "what-if" Question Answering (WIQA) benchmark (over 3% F1), especially for questions that require background knowledge and multi-hop reasoning.
• Abstract（参考訳）: イベントの推論と影響の追跡は、プロセスを理解するのに不可欠である。 本稿では,事前学習した言語モデルを用いて,文脈,その影響の性質,および推論連鎖内の距離を条件とした事象の影響を発生させる手法を提案する。 また,イベントインフルエンス生成手法の研究と評価のための新しいデータセットも作成する。 EIGENは、自動評価指標(10ROUGEポイント)と、世代間の参照と関連性に関する人間の判断の両方において、強力なベースラインを上回ります。 さらに, 背景知識やマルチホップ推論を必要とする質問に対して, WIQA(What-if Question Answering)ベンチマーク(3%以上)において, EIGENが生成した事象の影響が改善していることを示す。

関連論文リスト

• Enhancing Event Causality Identification with Rationale and Structure-Aware Causal Question Answering [30.000134835133522]
  事象因果同定(DECI)は、文書中の2つの事象間の因果関係を特定することを目的としている。 近年の研究では、事前訓練された言語モデルを用いて事象因果関係を生成する傾向にある。 本稿では,合理的かつ構造を考慮した因果的質問応答による事象因果同定を強化するためのマルチタスク学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-17T07:41:58Z)
• CausalDialogue: Modeling Utterance-level Causality in Conversations [83.03604651485327]
  クラウドソーシングを通じて、CausalDialogueという新しいデータセットをコンパイルし、拡張しました。 このデータセットは、有向非巡回グラフ(DAG)構造内に複数の因果効果対を含む。 ニューラル会話モデルの訓練における発話レベルにおける因果性の影響を高めるために,Exponential Average Treatment Effect (ExMATE) と呼ばれる因果性強化手法を提案する。
  論文  参考訳（メタデータ） (2022-12-20T18:31:50Z)
• Contextualization and Generalization in Entity and Relation Extraction [0.0]
  本研究では、訓練中に見えない事実への一般化に関する最先端モデルの振る舞いについて検討する。 従来のベンチマークは、トレーニングとモデル評価に使用される言及と関係の間に重要な語彙的重複を示す。 本稿では,トレーニングセットと重複する言及と関連性に基づいて,パフォーマンスを分離するための実証的研究を提案する。
  論文  参考訳（メタデータ） (2022-06-15T14:16:42Z)
• Understanding Programmatic Weak Supervision via Source-aware Influence Function [76.74549130841383]
  Programmatic Weak Supervision (PWS)は、複数の弱い監督ソースのソース投票を確率的トレーニングラベルに集約する。 エンドモデルのトレーニング目標を分解し、各(データ、ソース、クラス)に関連する影響を計算するために、インフルエンス関数(IF)を構築します。 これらのプリミティブな影響スコアは、ソース投票、監督ソース、トレーニングデータなど、個々のコンポーネントPWSの影響を推定するために使用することができる。
  論文  参考訳（メタデータ） (2022-05-25T15:57:24Z)
• ClarET: Pre-training a Correlation-Aware Context-To-Event Transformer for Event-Centric Generation and Classification [74.6318379374801]
  本稿では,イベント中心推論のための一般相関対応コンテキスト・イベント変換器(ClarET)の事前学習を提案する。 提案されたClarETは、幅広いイベント中心の推論シナリオに適用できる。
  論文  参考訳（メタデータ） (2022-03-04T10:11:15Z)
• Causal Knowledge Guided Societal Event Forecasting [24.437437565689393]
  本稿では,因果効果推定をイベント予測に組み込むディープラーニングフレームワークを提案する。 機能再重み付けモジュールと近似損失を含む2つの頑健な学習モジュールを導入し、事前の知識注入を可能にする。
  論文  参考訳（メタデータ） (2021-12-10T17:41:02Z)
• Improving Event Causality Identification via Self-Supervised Representation Learning on External Causal Statement [17.77752074834281]
  イベント因果同定に外部因果文を活用するCauSeRLを提案する。 まず、外部因果文から文脈固有の因果パターンを学習するための自己教師型フレームワークを設計する。 我々は、学習した文脈固有の因果パターンを対象のECIモデルに組み込むために、コントラッシブトランスファー戦略を採用する。
  論文  参考訳（メタデータ） (2021-06-03T07:50:50Z)
• Knowledge-driven Data Construction for Zero-shot Evaluation in Commonsense Question Answering [80.60605604261416]
  本稿では,共通認識課題にまたがるゼロショット質問応答のための新しいニューラルシンボリック・フレームワークを提案する。 言語モデル、トレーニング体制、知識ソース、データ生成戦略のセットを変えて、タスク間の影響を測定します。 個別の知識グラフは特定のタスクに適しているが、グローバルな知識グラフはさまざまなタスクに対して一貫した利得をもたらす。
  論文  参考訳（メタデータ） (2020-11-07T22:52:21Z)
• Explaining Black Box Predictions and Unveiling Data Artifacts through Influence Functions [55.660255727031725]
  影響関数は、影響力のあるトレーニング例を特定することによって、モデルの判断を説明する。 本稿では,代表課題における影響関数と共通単語順応法の比較を行う。 我々は,学習データ中の成果物を明らかにすることができる影響関数に基づく新しい尺度を開発した。
  論文  参考訳（メタデータ） (2020-05-14T00:45:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。