論文の概要: Controllable Text Generation in the Instruction-Tuning Era

• arxiv url: http://arxiv.org/abs/2405.01490v1
• Date: Thu, 2 May 2024 17:24:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-03 15:35:38.231468
• Title: Controllable Text Generation in the Instruction-Tuning Era
• Title（参考訳）: インストラクション・チューニング時代の制御可能なテキスト生成
• Authors: Dhananjay Ashok, Barnabas Poczos,
• Abstract要約: プロンプトベースのアプローチは,ほとんどのデータセットやタスクにおいて,制御可能なテキスト生成方法よりも優れていることがわかった。 制約データセットを自動的に生成するために,タスクデータセットとコンテキスト内機能を備えた大規模言語モデルのみを使用するアルゴリズムを提供する。
• 参考スコア（独自算出の注目度）: 3.310278632293704
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: While most research on controllable text generation has focused on steering base Language Models, the emerging instruction-tuning and prompting paradigm offers an alternate approach to controllability. We compile and release ConGenBench, a testbed of 17 different controllable generation tasks, using a subset of it to benchmark the performance of 9 different baselines and methods on Instruction-tuned Language Models. To our surprise, we find that prompting-based approaches outperform controllable text generation methods on most datasets and tasks, highlighting a need for research on controllable text generation with Instruction-tuned Language Models in specific. Prompt-based approaches match human performance on most stylistic tasks while lagging on structural tasks, foregrounding a need to study more varied constraints and more challenging stylistic tasks. To facilitate such research, we provide an algorithm that uses only a task dataset and a Large Language Model with in-context capabilities to automatically generate a constraint dataset. This method eliminates the fields dependence on pre-curated constraint datasets, hence vastly expanding the range of constraints that can be studied in the future.
• Abstract（参考訳）: 制御可能なテキスト生成に関するほとんどの研究は、基本言語モデルのステアリングに重点を置いているが、新しい命令チューニングとプロンプトパラダイムは、制御可能性に対する代替的なアプローチを提供する。 我々は17の異なる制御可能な生成タスクのテストベッドであるConGenBenchをコンパイルしてリリースし、そのサブセットを使用して、インストラクションチューニング言語モデル上の9つの異なるベースラインとメソッドのパフォーマンスをベンチマークします。 意外なことに、プロンプトベースのアプローチは、ほとんどのデータセットやタスクにおいて制御可能なテキスト生成方法よりも優れており、インストラクションチューニング言語モデルを用いた制御可能なテキスト生成の研究の必要性が強調されている。 プロンプトベースのアプローチは、ほとんどのスタイリスティックなタスクにおいて人間のパフォーマンスと一致し、構造的なタスクを遅延させ、より多様な制約とより困難なスタイリスティックなタスクを研究する必要がある。 このような研究を容易にするために、制約データセットを自動的に生成するコンテキスト内機能を備えたタスクデータセットと大規模言語モデルのみを使用するアルゴリズムを提供する。 この方法では、事前計算された制約データセットへのフィールド依存を排除し、将来研究できる制約の範囲を大幅に拡大する。

関連論文リスト

• Retrieval is Accurate Generation [99.24267226311157]
  本稿では,支援文書の集合からコンテキスト認識句を選択する新しい手法を提案する。 本モデルでは,検索対象のベースラインの中で,最高の性能と低レイテンシを実現する。
  論文  参考訳（メタデータ） (2024-02-27T14:16:19Z)
• Toward Unified Controllable Text Generation via Regular Expression Instruction [56.68753672187368]
  本稿では,正規表現の利点をフル活用し,多様な制約を一様にモデル化する命令ベース機構を用いた正規表現指導(REI)を提案する。 提案手法では,中規模言語モデルの微調整や,大規模言語モデルでの少数ショット・インコンテクスト学習のみを要し,各種制約の組み合わせに適用した場合のさらなる調整は不要である。
  論文  参考訳（メタデータ） (2023-09-19T09:05:14Z)
• COLLIE: Systematic Construction of Constrained Text Generation Tasks [33.300039566331876]
  COLLIEは文法ベースのフレームワークで、多種多様な世代レベルのリッチで構成的な制約を仕様化することができる。 本研究では,制約構造と生テキストコーパスが与えられたタスクインスタンスの自動抽出ツールを開発する。 我々は、最先端の5つの言語モデルに対して体系的な実験を行い、その性能を分析し、欠点を明らかにする。
  論文  参考訳（メタデータ） (2023-07-17T17:48:51Z)
• Deliberate then Generate: Enhanced Prompting Framework for Text Generation [70.10319005141888]
  Deliberate then Generate (DTG) プロンプトフレームワークはエラー検出命令とエラーを含む可能性のある候補で構成されている。 我々は、要約、翻訳、対話など、7つのテキスト生成タスクにまたがる20以上のデータセットに関する広範な実験を行う。 本稿では,DTGが既存のプロンプト手法を一貫して上回り,複数のテキスト生成タスクにおける最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2023-05-31T13:23:04Z)
• Controlled Text Generation with Natural Language Instructions [74.88938055638636]
  InstructCTGは、異なる制約を含む制御されたテキスト生成フレームワークである。 まず、既製のNLPツールと単純な動詞の組み合わせにより、自然文の基本的制約を抽出する。 制約の自然言語記述といくつかの実演を予測することにより、様々な種類の制約を組み込むために、事前訓練された言語モデルを微調整する。
  論文  参考訳（メタデータ） (2023-04-27T15:56:34Z)
• Controllable Text Generation with Language Constraints [39.741059642044874]
  本稿では,自然言語に制約のある言語モデルにおけるテキスト生成の課題について考察する。 私たちのベンチマークには、WordnetやWikidataといったデータベースから得られる知識集約的な制約が含まれています。 本稿では,言語モデルの内部知識を活用して生成をガイドする手法を提案する。
  論文  参考訳（メタデータ） (2022-12-20T17:39:21Z)
• InstructionNER: A Multi-Task Instruction-Based Generative Framework for Few-shot NER [31.32381919473188]
  InstructionNERというマルチタスク命令ベースの生成フレームワークを提案する。 具体的には、NERタスクを生成問題として再構成し、タスク固有の命令と回答オプションでソース文を豊かにし、自然言語のエンティティと型を推論する。 実験結果から,本手法は5つのデータセットのベースラインを数ショット設定で一貫的に上回っていることがわかった。
  論文  参考訳（メタデータ） (2022-03-08T07:56:36Z)
• Data-to-text Generation with Variational Sequential Planning [74.3955521225497]
  非言語的な入力からテキスト出力を生成することを目的としたデータ・ツー・テキスト生成の課題について考察する。 協調的かつ有意義な方法で高レベルの情報を整理する責任を負う計画要素を付加したニューラルモデルを提案する。 我々は、計画と生成のステップをインターリーブしながら、構造化された変動モデルで逐次、潜在計画を推測する。
  論文  参考訳（メタデータ） (2022-02-28T13:17:59Z)
• Control Prefixes for Text Generation [17.682443394199375]
  本稿では,各プロンプトに条件付き入力依存情報を組み込む動的手法である制御プリフィックスを提案する。 我々は、WebNLGを含むいくつかのデータからテキストへのデータセットに対して、最先端の結果を提示する。
  論文  参考訳（メタデータ） (2021-10-15T19:32:17Z)
• Unsupervised Text Generation by Learning from Search [86.51619839836331]
  TGLSは、教師なしテキスト生成のための新しいフレームワークである。 実世界の自然言語生成タスクであるパラフレーズ生成とテキストの形式化におけるTGLSの有効性を示す。
  論文  参考訳（メタデータ） (2020-07-09T04:34:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。