論文の概要: Controllable Generation from Pre-trained Language Models via Inverse Prompting

• arxiv url: http://arxiv.org/abs/2103.10685v1
• Date: Fri, 19 Mar 2021 08:36:52 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-22 18:44:45.159313
• Title: Controllable Generation from Pre-trained Language Models via Inverse Prompting
• Title（参考訳）: 逆プロンプトによる事前学習言語モデルからの制御可能生成
• Authors: Xu Zou, Da Yin, Qingyang Zhong, Hongxia Yang, Zhilin Yang, Jie Tang
• Abstract要約: テキスト生成をよりよく制御する革新的な手法である逆プロンプトを提案する。 逆プロンプトは生成されたテキストを使用してビーム探索中に逆プロンプトを予測する。 その結果,提案手法はベースラインを大きく上回ることがわかった。
• 参考スコア（独自算出の注目度）: 47.23315683944257
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large-scale pre-trained language models have demonstrated strong capabilities of generating realistic text. However, it remains challenging to control the generation results. Previous approaches such as prompting are far from sufficient, which limits the usage of language models. To tackle this challenge, we propose an innovative method, inverse prompting, to better control text generation. The core idea of inverse prompting is to use generated text to inversely predict the prompt during beam search, which enhances the relevance between the prompt and the generated text and provides better controllability. Empirically, we pre-train a large-scale Chinese language model to perform a systematic study using human evaluation on the tasks of open-domain poem generation and open-domain long-form question answering. Our results show that our proposed method substantially outperforms the baselines and that our generation quality is close to human performance on some of the tasks. Narrators can try our poem generation demo at https://pretrain.aminer.cn/apps/poetry.html, while our QA demo can be found at https://pretrain.aminer.cn/app/qa. For researchers, the code is provided in https://github.com/THUDM/InversePrompting.
• Abstract（参考訳）: 大規模事前学習型言語モデルは、現実的なテキストを生成する強力な能力を示している。 しかし、生成結果の制御は依然として困難である。 プロンプトのような従来のアプローチは十分ではなく、言語モデルの使用を制限する。 そこで本研究では,テキスト生成をより良く制御するための逆プロンプト手法を提案する。 逆プロンプトの基本的な考え方は、生成したテキストを使用してビームサーチ中のプロンプトを逆予測することで、プロンプトと生成されたテキストの関連性を高め、より良い制御性を提供する。 経験的に,大規模な中国語モデルを事前学習し,オープンドメイン詩生成とオープンドメイン長文質問応答のタスクに対する人間的評価を用いた体系的研究を行った。 提案手法は,提案手法がベースラインを大幅に上回り,生成品質が課題のいくつかにおいて人的性能に近いことを示す。 ナレーターはhttps://pretrain.aminer.cn/apps/poetry.htmlで、私たちの詩生成デモはhttps://pretrain.aminer.cn/app/qa.comで試すことができます。 研究者のために、コードはhttps://github.com/thudm/inversepromptingで提供される。

関連論文リスト

• Plug and Play with Prompts: A Prompt Tuning Approach for Controlling Text Generation [16.49758711633611]
  大規模言語モデル(LLM)は、テキストベースのプロンプトに応答して、例外的な言語生成能力を示す。 本研究では,制御言語生成におけるPrompt Tuningの利用について検討する。 本稿では, 言語モデルによる有害, 有害, 偏見のあるテキストを緩和する手法の有効性を実証する。
  論文  参考訳（メタデータ） (2024-04-08T01:54:28Z)
• Retrieval is Accurate Generation [99.24267226311157]
  本稿では,支援文書の集合からコンテキスト認識句を選択する新しい手法を提案する。 本モデルでは,検索対象のベースラインの中で,最高の性能と低レイテンシを実現する。
  論文  参考訳（メタデータ） (2024-02-27T14:16:19Z)
• Vector-Quantized Prompt Learning for Paraphrase Generation [18.40940464497253]
  本稿では、事前学習されたモデルにインスタンス依存のプロンプトを組み込むことにより、多種多様な高品質なパラフレーズを生成することを提案する。 大規模な実験により,提案手法は3つのベンチマークデータセットに対して新たな最先端結果が得られることを示した。
  論文  参考訳（メタデータ） (2023-11-25T07:13:06Z)
• Momentum Decoding: Open-ended Text Generation As Graph Exploration [49.812280360794894]
  自動回帰言語モデル(LM)を用いたオープンエンドテキスト生成は、自然言語処理における中核的なタスクの1つである。 我々は、新しい視点から、すなわち、有向グラフ内の探索プロセスとして、オープンエンドテキスト生成を定式化する。 本稿では,新しい復号法であるtextitmomentum decodingを提案する。
  論文  参考訳（メタデータ） (2022-12-05T11:16:47Z)
• Facts2Story: Controlling Text Generation by Key Facts [0.0]
  自然言語で表現された一連の事実を、より長い物語に展開し、制御された生成タスクを提案する。 我々は、GPT2のような自動回帰型一方向言語モデルは、より良い流動性を生み出すが、彼らは要求された事実に従うのに苦労することを示した。 本稿では,要求されるコンテンツに固執しながら,競争的フラッテンシーを生み出すプラン・アンド・クローズモデル(微調整xlnet)を提案する。
  論文  参考訳（メタデータ） (2020-12-08T10:14:29Z)
• Unsupervised Text Generation by Learning from Search [86.51619839836331]
  TGLSは、教師なしテキスト生成のための新しいフレームワークである。 実世界の自然言語生成タスクであるパラフレーズ生成とテキストの形式化におけるTGLSの有効性を示す。
  論文  参考訳（メタデータ） (2020-07-09T04:34:48Z)
• POINTER: Constrained Progressive Text Generation via Insertion-based Generative Pre-training [93.79766670391618]
  ハードコントラストテキスト生成のための新しい挿入ベースアプローチであるPOINTERを提案する。 提案手法は,既存のトークン間で段階的に新しいトークンを並列に挿入することによって動作する。 結果として生じる粗大な階層構造は、生成プロセスを直感的で解釈可能である。
  論文  参考訳（メタデータ） (2020-05-01T18:11:54Z)
• PALM: Pre-training an Autoencoding&Autoregressive Language Model for Context-conditioned Generation [92.7366819044397]
  自己指導型事前学習は、自然言語の理解と生成のための強力な技術として登場した。 本研究は,大規模未ラベルコーパス上で自己エンコーディングと自己回帰言語モデルを共同で事前学習する新しいスキームをPALMに提示する。 広範な実験により、PALMは様々な言語生成ベンチマークにおいて、新しい最先端の結果を達成することが示されている。
  論文  参考訳（メタデータ） (2020-04-14T06:25:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。