論文の概要: Entailment Relation Aware Paraphrase Generation
- arxiv url: http://arxiv.org/abs/2203.10483v1
- Date: Sun, 20 Mar 2022 08:02:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 15:58:09.705422
- Title: Entailment Relation Aware Paraphrase Generation
- Title(参考訳): パラフレーズ生成を意識した連関関係
- Authors: Abhilasha Sancheti, Balaji Vasan Srinivasan, Rachel Rudinger
- Abstract要約: 本稿では、既存のパラフレーズと自然言語推論コーパスを用いて学習できる強化学習に基づく弱教師付きパラフレーズシステムERAPを提案する。
自動評価と人的評価の組み合わせは、ERAPが特定の包含関係に従ってパラフレーズを生成することを示している。
- 参考スコア(独自算出の注目度): 17.6146622291895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a new task of entailment relation aware paraphrase generation
which aims at generating a paraphrase conforming to a given entailment relation
(e.g. equivalent, forward entailing, or reverse entailing) with respect to a
given input. We propose a reinforcement learning-based weakly-supervised
paraphrasing system, ERAP, that can be trained using existing paraphrase and
natural language inference (NLI) corpora without an explicit task-specific
corpus. A combination of automated and human evaluations show that ERAP
generates paraphrases conforming to the specified entailment relation and are
of good quality as compared to the baselines and uncontrolled paraphrasing
systems. Using ERAP for augmenting training data for downstream textual
entailment task improves performance over an uncontrolled paraphrasing system,
and introduces fewer training artifacts, indicating the benefit of explicit
control during paraphrasing.
- Abstract(参考訳): 本稿では、与えられた入力に対して、与えられた含意関係(例えば、等価、前方含意、または逆含意)に対応するパラフレーズを生成することを目的とした、含意関係認識パラフレーズ生成の新しいタスクを提案する。
本稿では,既存のパラフレーズと自然言語推論(NLI)コーパスを明示的なタスク固有コーパスなしでトレーニングできる強化学習に基づく弱教師付きパラフレーズシステムERAPを提案する。
自動評価と人的評価の組み合わせにより,ERAPは特定の包含関係に適合するパラフレーズを生成し,ベースラインや制御不能なパラフレーズシステムと比較して良好な品質を示す。
erapを下流のテキスト対応タスクのトレーニングデータの強化に使用すると、非制御のパラフレージングシステムよりもパフォーマンスが向上し、パラフレージング時の明示的なコントロールのメリットを示すトレーニングアーティファクトも少なくなる。
関連論文リスト
- On the loss of context-awareness in general instruction fine-tuning [101.03941308894191]
命令応答対における教師付き微調整(SFT)のようなポストトレーニング手法は、事前トレーニング中に学習した既存の能力を損なう可能性がある。
そこで本研究では,ユーザプロンプトに配慮したポストホックアテンション・ステアリングと,コンテキスト依存度指標を用いた条件付きインストラクションの微調整という,インストラクションモデルにおけるコンテキスト認識の損失を軽減する2つの方法を提案する。
論文 参考訳(メタデータ) (2024-11-05T00:16:01Z) - Con-ReCall: Detecting Pre-training Data in LLMs via Contrastive Decoding [118.75567341513897]
既存のメソッドは通常、ターゲットテキストを分離して分析するか、非メンバーコンテキストでのみ分析する。
Con-ReCallは、メンバと非メンバのコンテキストによって誘導される非対称な分布シフトを利用する新しいアプローチである。
論文 参考訳(メタデータ) (2024-09-05T09:10:38Z) - Prompt-based Logical Semantics Enhancement for Implicit Discourse
Relation Recognition [4.7938839332508945]
Inlicit Discourse Relation Recognition (IDRR) のための Prompt-based Logical Semantics Enhancement (PLSE) 法を提案する。
提案手法は,事前学習した言語モデルに対する対話関係に関する知識を,素早い接続予測によってシームレスに注入する。
PDTB 2.0 と CoNLL16 データセットによる実験結果から,本手法は現状の最先端モデルに対して優れた一貫した性能を発揮することが示された。
論文 参考訳(メタデータ) (2023-11-01T08:38:08Z) - Unsupervised Syntactically Controlled Paraphrase Generation with
Abstract Meaning Representations [59.10748929158525]
抽象表現(AMR)は、教師なし構文制御されたパラフレーズ生成の性能を大幅に向上させることができる。
提案モデルであるAMRPGは,AMRグラフを符号化し,入力文を2つの非絡み合った意味的および構文的埋め込みに解析する。
実験により、AMRPGは既存の教師なしアプローチと比較して、定量的かつ質的に、より正確な構文制御されたパラフレーズを生成することが示された。
論文 参考訳(メタデータ) (2022-11-02T04:58:38Z) - Sentence Representation Learning with Generative Objective rather than
Contrastive Objective [86.01683892956144]
句再構成に基づく新たな自己教師型学習目標を提案する。
我々の生成学習は、十分な性能向上を達成し、現在の最先端のコントラスト法よりも優れています。
論文 参考訳(メタデータ) (2022-10-16T07:47:46Z) - Improving Distantly Supervised Relation Extraction by Natural Language
Inference [9.181270251524866]
本稿では,既存の知識ベースから遠ざかる監視と,事前学習した言語モデルから他のタスクへ間接的に監督するDSRE-NLIフレームワークを提案する。
DSRE-NLIは、半自動的関係言語化(SARV)機構により、市販の自然言語推論(NLI)エンジンをエネルギ化し、間接的な監視を提供する。
2つのシンプルで効果的なデータ統合戦略により、トレーニングデータの質が大幅に向上する。
論文 参考訳(メタデータ) (2022-07-31T02:48:34Z) - Generative or Contrastive? Phrase Reconstruction for Better Sentence
Representation Learning [86.01683892956144]
句再構成に基づく新たな自己教師型学習目標を提案する。
我々の生成学習は、十分強力な文表現をもたらし、コントラスト学習と同等の文文類似性タスクで性能を達成することができる。
論文 参考訳(メタデータ) (2022-04-20T10:00:46Z) - Learning to Selectively Learn for Weakly-supervised Paraphrase
Generation [81.65399115750054]
弱監督データを用いた高品質なパラフレーズを生成するための新しい手法を提案する。
具体的には、弱制御されたパラフレーズ生成問題に以下のように取り組む。
検索に基づく擬似パラフレーズ展開により、豊富なラベル付き並列文を得る。
提案手法は,既存の教師なしアプローチよりも大幅に改善され,教師付き最先端技術と同等の性能を示す。
論文 参考訳(メタデータ) (2021-09-25T23:31:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。