論文の概要: Contrastive Learning with Adversarial Perturbations for Conditional Text Generation

• arxiv url: http://arxiv.org/abs/2012.07280v6
• Date: Wed, 10 Mar 2021 13:27:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-09 08:11:35.397424
• Title: Contrastive Learning with Adversarial Perturbations for Conditional Text Generation
• Title（参考訳）: 条件付きテキスト生成のための逆摂動を用いたコントラスト学習
• Authors: Seanie Lee, Dong Bok Lee, Sung Ju Hwang
• Abstract要約: seq2seqモデルのコントラスト学習のための正負のサンプルを生成する原則的な方法を提案する。 具体的には、入力シーケンスに小さな摂動を加えることで、条件付き可能性を最小限に抑えるネガティブな例を生成します。 提案手法は,3つのテキスト生成タスクにおけるSeq2seqの一般化を著しく改善することを示す。
• 参考スコア（独自算出の注目度）: 49.055659008469284
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recently, sequence-to-sequence (seq2seq) models with the Transformer architecture have achieved remarkable performance on various conditional text generation tasks, such as machine translation. However, most of them are trained with teacher forcing with the ground truth label given at each time step, without being exposed to incorrectly generated tokens during training, which hurts its generalization to unseen inputs, that is known as the "exposure bias" problem. In this work, we propose to mitigate the conditional text generation problem by contrasting positive pairs with negative pairs, such that the model is exposed to various valid or incorrect perturbations of the inputs, for improved generalization. However, training the model with naive contrastive learning framework using random non-target sequences as negative examples is suboptimal, since they are easily distinguishable from the correct output, especially so with models pretrained with large text corpora. Also, generating positive examples requires domain-specific augmentation heuristics which may not generalize over diverse domains. To tackle this problem, we propose a principled method to generate positive and negative samples for contrastive learning of seq2seq models. Specifically, we generate negative examples by adding small perturbations to the input sequence to minimize its conditional likelihood, and positive examples by adding large perturbations while enforcing it to have a high conditional likelihood. Such "hard" positive and negative pairs generated using our method guides the model to better distinguish correct outputs from incorrect ones. We empirically show that our proposed method significantly improves the generalization of the seq2seq on three text generation tasks - machine translation, text summarization, and question generation.
• Abstract（参考訳）: 近年, Transformer アーキテクチャを用いたSequence-to-Sequence (seq2seq) モデルは,機械翻訳などの条件付きテキスト生成タスクにおいて顕著な性能を発揮している。 しかし、それらの多くは、トレーニング中に誤って生成されたトークンに晒されることなく、各ステップで与えられた基底真理ラベルを強制する教師の強制で訓練されており、それは"露光バイアス"問題として知られる、見当たらない入力への一般化を損なう。 本研究では,正のペアと負のペアを対比することにより条件付きテキスト生成問題を軽減することを提案する。 しかし, ランダムな非ターゲット配列を負の例として用いて, 逆学習フレームワークを用いてモデルを訓練することは, 特に大きなテキストコーパスで事前学習したモデルでは, 正しい出力と容易に区別できるため, 最適以下である。 また、ポジティブな例を生成するにはドメイン固有の拡張ヒューリスティックが必要である。 そこで本研究では,seq2seqモデルの対比学習のための正・負のサンプル生成法を提案する。 具体的には,条件付き確率を最小化するために入力列に小さな摂動を追加して負の例を生成し,条件付き確率が高いよう強制しながら大きな摂動を付加することで正の例を生成する。 このような「ハード」な正対と負の対が我々の手法で生成され、正しい出力と間違った出力をよりよく区別するためにモデルが導かれる。 提案手法は,3つのテキスト生成タスク(機械翻訳,テキスト要約,質問生成)におけるSeq2seqの一般化を大幅に改善することを示す。

関連論文リスト

• Negative-Prompt-driven Alignment for Generative Language Model [34.191590966148816]
  本稿では,言語モデルが望ましくない行動から遠ざかるように,NEGative-prompt-driven AlignmenTを提案する。 NEATは有害なアウトプットを生成するためのモデルを明確に罰し、望ましい行動だけでなく、望ましくない偏見のある反応を発生させないよう仕向けている。 大規模な実験により、NEATは言語モデルと人間の価値観と嗜好との整合性を著しく向上させる効果を検証した。
  論文  参考訳（メタデータ） (2024-10-16T03:30:09Z)
• A Constraint-Enforcing Reward for Adversarial Attacks on Text Classifiers [10.063169009242682]
  逆例を生成するために,エンコーダ-デコーダパラフレーズモデルを訓練する。 我々は強化学習アルゴリズムを採用し、制約付き報酬を提案する。 提案手法の主な設計選択が生成した例にどのように影響するかを示し,提案手法の長所と短所について議論する。
  論文  参考訳（メタデータ） (2024-05-20T09:33:43Z)
• Generating Enhanced Negatives for Training Language-Based Object Detectors [86.1914216335631]
  我々は、現代の生成モデルに組み込まれた膨大な知識を活用して、元のデータにより関連性のある負を自動で構築することを提案する。 具体的には、大言語モデルを用いて、負のテキスト記述を生成するとともに、テキスト間拡散モデルを用いて、対応する負の画像を生成する。 実験により, 生成した負データとの関連性を確認し, 言語ベースの検出器での使用により, 2つの複雑なベンチマークの性能が向上した。
  論文  参考訳（メタデータ） (2023-12-29T23:04:00Z)
• SCENE: Self-Labeled Counterfactuals for Extrapolating to Negative Examples [23.77077091225583]
  SCENE(Self-labeled Counterfactuals for Extrapolating to Negative Examples)は、学習データを自動合成する手法である。 SCENEは、答え可能なトレーニング例のみにアクセスすることで、SQuAD 2.0のパフォーマンスギャップの69.6%を埋めることができる。
  論文  参考訳（メタデータ） (2023-05-13T19:30:58Z)
• Language Model Pre-training on True Negatives [109.73819321246062]
  差別的事前訓練言語モデル(PLM)は、故意に破損した言語から原文を予測することを学ぶ。 既存のPLMは、すべての破損したテキストを検査せずに同等に否定的に扱う。 我々は、偽陰性予測に対処し、真陰性に関する事前学習言語モデルを促進するために、強化された事前学習手法を設計する。
  論文  参考訳（メタデータ） (2022-12-01T12:24:19Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• Generating Sequences by Learning to Self-Correct [64.0249217590888]
  自己補正(Self-Correction)は、不完全な世代を反復的に修正する独立した修正器から不完全なベースジェネレータを分離する。 本稿では,3つの多種多様なタスクにおいて,自己補正がベースジェネレータを改善することを示す。
  論文  参考訳（メタデータ） (2022-10-31T18:09:51Z)
• Improving Contrastive Learning of Sentence Embeddings with Case-Augmented Positives and Retrieved Negatives [17.90820242798732]
  教師なしのコントラスト学習手法は、教師付き学習方法よりもはるかに遅れている。 文中のランダムに選択された単語の最初の文字のケースを反転させるスイッチケース拡張を提案する。 負のサンプルについては、事前学習された言語モデルに基づいてデータセット全体からハードネガティブをサンプリングする。
  論文  参考訳（メタデータ） (2022-06-06T09:46:12Z)
• Instance-wise Hard Negative Example Generation for Contrastive Learning in Unpaired Image-to-Image Translation [102.99799162482283]
  非ペア画像-画像翻訳(NEGCUT)におけるコントラスト学習のための例-wise hard Negative Example Generationを提案する。 具体的には、オンラインでネガティブな例を生成するようにジェネレータを訓練する。ジェネレータは、1)入力画像に基づいて生成されたサンプルをインスタンスワイズし、2)逆向きの損失で訓練されたので、強烈なネガティブな例を生成することができる。
  論文  参考訳（メタデータ） (2021-08-10T09:44:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。