論文の概要: Guided Generation of Cause and Effect
- arxiv url: http://arxiv.org/abs/2107.09846v1
- Date: Wed, 21 Jul 2021 02:32:47 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-22 21:42:23.289309
- Title: Guided Generation of Cause and Effect
- Title(参考訳): 原因と効果の誘導
- Authors: Zhongyang Li, Xiao Ding, Ting Liu, J. Edward Hu, Benjamin Van Durme
- Abstract要約: 本稿では,原因や影響のセンテンシャルな表現を提示する条件付きテキスト生成フレームワークを提案する。
このフレームワークは2つの新しいリソースに依存している: 因果パターンを表現した大規模な英語文の収集、および大きな語彙因果知識グラフの構築に関する以前の研究に対する改良。
- 参考スコア(独自算出の注目度): 52.44584102429394
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a conditional text generation framework that posits sentential
expressions of possible causes and effects. This framework depends on two novel
resources we develop in the course of this work: a very large-scale collection
of English sentences expressing causal patterns CausalBank; and a refinement
over previous work on constructing large lexical causal knowledge graphs Cause
Effect Graph. Further, we extend prior work in lexically-constrained decoding
to support disjunctive positive constraints. Human assessment confirms that our
approach gives high-quality and diverse outputs. Finally, we use CausalBank to
perform continued training of an encoder supporting a recent state-of-the-art
model for causal reasoning, leading to a 3-point improvement on the COPA
challenge set, with no change in model architecture.
- Abstract(参考訳): 本稿では,原因や影響のセンテンシャル表現を提示する条件付きテキスト生成フレームワークを提案する。
このフレームワークは、この作業の過程で私たちが開発した2つの新しいリソースに依存しています。因果パターンを表現した非常に大規模な英文の集合と、大きな語彙因果知識グラフの構築に関する以前の作業に対する改良です。
さらに,解離正の制約をサポートするために,語彙制約付き復号法における先行作業を延長する。
人間の評価は、我々のアプローチが高品質で多様なアウトプットをもたらすことを確認します。
最後に、CausalBankを使用して、最近の因果推論の最先端モデルをサポートするエンコーダの継続的なトレーニングを行い、モデルアーキテクチャの変更なしにCOPAチャレンジセットを3ポイント改善しました。
関連論文リスト
- Enhancing Systematic Decompositional Natural Language Inference Using Informal Logic [51.967603572656266]
我々は,分解包含を注釈付けするための一貫した理論的なアプローチを導入する。
我々の新しいデータセットRDTEは、前回の分解エンターメントデータセットよりもかなり高い内部整合性(+9%)を持つことがわかった。
また,RDTE による知識蒸留によるエンテーメント分類器の訓練や,エンテーメントツリー推論エンジンへの導入により,精度と検証精度が向上することが確認された。
論文 参考訳(メタデータ) (2024-02-22T18:55:17Z) - Causal Document-Grounded Dialogue Pre-training [81.16429056652483]
百万レベルのDocGD事前学習コーパスを構築するための因果完全データセット構築戦略を提案する。
3つのベンチマークデータセットの実験により、我々の因果前トレーニングは、完全な教師付き、低リソース、少数ショット、ゼロショット設定の下で、かなり、一貫した改善を達成できることが示された。
論文 参考訳(メタデータ) (2023-05-18T12:39:25Z) - CausalDialogue: Modeling Utterance-level Causality in Conversations [83.03604651485327]
クラウドソーシングを通じて、CausalDialogueという新しいデータセットをコンパイルし、拡張しました。
このデータセットは、有向非巡回グラフ(DAG)構造内に複数の因果効果対を含む。
ニューラル会話モデルの訓練における発話レベルにおける因果性の影響を高めるために,Exponential Average Treatment Effect (ExMATE) と呼ばれる因果性強化手法を提案する。
論文 参考訳(メタデータ) (2022-12-20T18:31:50Z) - A Causal Framework to Quantify the Robustness of Mathematical Reasoning
with Language Models [81.15974174627785]
入力空間における直接的介入に対する頑健さと感度の観点から言語モデルの振舞いについて検討する。
しかし, GPT-3 Davinciモデル(175B)は, 他のGPTモデルと比較して, 頑健さと感度の両面で劇的な改善を実現している。
論文 参考訳(メタデータ) (2022-10-21T15:12:37Z) - ContraCLM: Contrastive Learning For Causal Language Model [54.828635613501376]
トークンレベルとシーケンスレベルの両方において,新しいコントラスト学習フレームワークであるContraCLMを提案する。
ContraCLMは表現の識別を強化し、エンコーダのみのモデルとのギャップを埋めることを示す。
論文 参考訳(メタデータ) (2022-10-03T18:56:35Z) - A Causal Lens for Controllable Text Generation [36.26478600135344]
本稿では、原理的因果的観点から制御可能なテキスト生成を定式化することを提案する。
因果関係の定式化の直接的な利点は、生成バイアスを緩和し、制御を改善するためにリッチ因果関係のツールを使用することである。
実験では、制御精度の向上とバイアス低減のために、従来の条件付きモデルよりも因果的アプローチが顕著に優れていることが示された。
論文 参考訳(メタデータ) (2022-01-22T19:31:43Z) - CURIE: An Iterative Querying Approach for Reasoning About Situations [36.2000733486444]
自然言語クエリを用いた構造化状況グラフ(st-graph)において,関連する結果のグラフを微調整言語モデル(M)上で明示的に構築する方法を提案する。
CURIEが生成するstグラフは、生成した状況グラフで入力を強化するだけで、状況推論最終タスク(WIQA-QA)を3ポイント精度で改善できることを示しています。
論文 参考訳(メタデータ) (2021-04-01T23:51:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。