論文の概要: Advancing Precise Outline-Conditioned Text Generation with Task Duality
and Explicit Outline Control
- arxiv url: http://arxiv.org/abs/2305.14459v3
- Date: Wed, 7 Feb 2024 06:28:44 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-08 20:50:54.822025
- Title: Advancing Precise Outline-Conditioned Text Generation with Task Duality
and Explicit Outline Control
- Title(参考訳): タスク双対と明示的アウトライン制御による高精度アウトライン記述テキスト生成の高速化
- Authors: Yunzhe Li, Qian Chen, Weixiang Yan, Wen Wang, Qinglin Zhang, Hari
Sundaram
- Abstract要約: そこで我々は,Precise Outline-conditioned Generationと呼ばれる新しいテキスト生成タスクを導入する。
このタスクは、特定の文レベルのアウトラインに基づいてストーリーを生成する必要がある。
本稿では,要約と生成のタスク双対性を生かした,明示的なアウトライン利用制御手法と新しいフレームワークを提案する。
- 参考スコア(独自算出の注目度): 15.881568820009797
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing works on outline-conditioned text generation typically aim to
generate text using provided outlines as rough sketches, such as keywords and
phrases. However, these approaches make it challenging to control the quality
of text generation and assess consistency between outlines and generated texts
due to lack of clarity and rationality of the rough outlines. In this paper, we
introduce a novel text generation task called Precise Outline-conditioned
Generation, which requires generating stories based on specific, sentence-level
outlines. To facilitate research on this task, we construct two new datasets,
WPOG and CDM. We provide strong baselines based on fine-tuning models such as
BART and GPT-2, and evaluating zero-shot performance of models such as ChatGPT
and Vicuna. Furthermore, we identify an issue of imbalanced utilization of the
outline information in the precise outline-conditioned generation, which is
ubiquitously observed across fine-tuned models and zero-shot inference models.
To address this issue, we propose an explicit outline utilization control
approach and a novel framework that leverages the task duality between
summarization and generation. Experimental results show that the proposed
approaches effectively alleviate the issue of imbalanced outline utilization
and enhance the quality of precise outline-conditioned text generation for both
fine-tuning and zero-shot settings.
- Abstract(参考訳): アウトライン条件付きテキスト生成に関する既存の研究は、通常、与えられたアウトラインをキーワードやフレーズなどの粗いスケッチとして使用してテキストを生成することを目的としている。
しかし,これらの手法は,大まかなアウトラインの明瞭さと合理性が欠如していることから,アウトラインと生成されたテキスト間の整合性を評価することが困難である。
本稿では,特定の文レベルのアウトラインに基づいてストーリーを生成する必要のある,正確なアウトライン条件付き生成という新しいテキスト生成タスクを提案する。
そこで本研究では,WPOGとCDMという2つの新しいデータセットを構築した。
BARTやGPT-2のような微調整モデルに基づく強力なベースラインを提供し、ChatGPTやVicunaのようなモデルのゼロショット性能を評価する。
さらに, 微調整モデルとゼロショット推論モデルにおいてユビキタスに観察される正確なアウトライン条件付き生成におけるアウトライン情報の不均衡利用の問題を明らかにする。
この問題に対処するため,本稿では,要約と生成のタスク双対性を活用したアウトライン利用制御手法と新しいフレームワークを提案する。
提案手法は,不均衡なアウトライン利用の問題を効果的に緩和し,微調整とゼロショット設定の両方において正確なアウトライン条件付きテキスト生成の質を向上させる。
関連論文リスト
- Contextualized Diffusion Models for Text-Guided Image and Video Generation [67.69171154637172]
条件拡散モデルは高忠実度テキスト誘導視覚生成および編集において優れた性能を示した。
本研究では,テキスト条件と視覚的サンプル間の相互作用とアライメントを包含するクロスモーダルコンテキストを組み込むことにより,コンテキスト拡散モデル(ContextDiff)を提案する。
理論的導出を伴うDDPMとDDIMの両方にモデルを一般化し、テキスト・ツー・イメージ生成とテキスト・ツー・ビデオ編集という2つの課題を伴う評価において、モデルの有効性を実証する。
論文 参考訳(メタデータ) (2024-02-26T15:01:16Z) - Exploring Precision and Recall to assess the quality and diversity of LLMs [82.21278402856079]
我々はtextscLlama-2 や textscMistral のような大規模言語モデル (LLM) のための新しい評価フレームワークを提案する。
このアプローチにより、コーパスの整合を必要とせず、生成したテキストの品質と多様性を微妙に評価できる。
論文 参考訳(メタデータ) (2024-02-16T13:53:26Z) - Text2Data: Low-Resource Data Generation with Textual Control [104.38011760992637]
自然言語は、人間が機械とシームレスに対話するための共通かつ直接的な制御信号として機能する。
ラベルのないデータを用いて教師なし拡散モデルを用いて基礎となるデータ分布を理解する新しいアプローチであるText2Dataを提案する。
制御性を確保し、破滅的な忘れを効果的に防止する、新しい制約最適化ベースの学習目標を通じて制御可能な微調整を行う。
論文 参考訳(メタデータ) (2024-02-08T03:41:39Z) - Dynamic Relation Transformer for Contextual Text Block Detection [9.644204545582742]
コンテキストテキストブロック検出は、自然シーンの複雑さの中でコヒーレントテキストブロックを識別するタスクである。
従来の手法では、CTBDはコンピュータビジョンにおける視覚的関係抽出の課題であったり、シーケンスモデリングの問題であったりしていた。
グラフ生成問題として CTBD をフレーム化する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-17T14:17:59Z) - Sequentially Controlled Text Generation [97.22539956688443]
GPT-2は、驚くほど人間らしく、長い文書が混ざり合ったり、人間のような文章構造に従わなかったりする文を生成する。
本研究では,長距離テキストにおける命令構造の問題について検討する。
生成と編集が可能な逐次制御型テキスト生成パイプラインを開発した。
論文 参考訳(メタデータ) (2023-01-05T21:23:51Z) - RSTGen: Imbuing Fine-Grained Interpretable Control into Long-FormText
Generators [26.27412809287025]
RSTGenは、生成されたテキストの談話構造、セマンティクス、トピックを制御するフレームワークである。
オープンジェネレーション評価において、生成したテキストの構造的言論と意味的特徴を制御できるモデルの能力を実証する。
論文 参考訳(メタデータ) (2022-05-25T09:06:04Z) - Event Transition Planning for Open-ended Text Generation [55.729259805477376]
オープンエンドテキスト生成タスクは、事前コンテキストに制限されたコヒーレントな継続を生成するためにモデルを必要とする。
オープンエンドテキスト生成におけるイベントを明示的にアレンジする新しい2段階手法を提案する。
我々のアプローチは、特別に訓練された粗大なアルゴリズムとして理解することができる。
論文 参考訳(メタデータ) (2022-04-20T13:37:51Z) - Data-to-text Generation with Variational Sequential Planning [74.3955521225497]
非言語的な入力からテキスト出力を生成することを目的としたデータ・ツー・テキスト生成の課題について考察する。
協調的かつ有意義な方法で高レベルの情報を整理する責任を負う計画要素を付加したニューラルモデルを提案する。
我々は、計画と生成のステップをインターリーブしながら、構造化された変動モデルで逐次、潜在計画を推測する。
論文 参考訳(メタデータ) (2022-02-28T13:17:59Z) - A Causal Lens for Controllable Text Generation [36.26478600135344]
本稿では、原理的因果的観点から制御可能なテキスト生成を定式化することを提案する。
因果関係の定式化の直接的な利点は、生成バイアスを緩和し、制御を改善するためにリッチ因果関係のツールを使用することである。
実験では、制御精度の向上とバイアス低減のために、従来の条件付きモデルよりも因果的アプローチが顕著に優れていることが示された。
論文 参考訳(メタデータ) (2022-01-22T19:31:43Z) - Consistency and Coherency Enhanced Story Generation [35.08911595854691]
生成したストーリーの一貫性と一貫性を高めるための2段階生成フレームワークを提案する。
第1段は物語の筋書きや出来事を描いた物語の輪郭を整理し、第2段は完全な物語へと輪郭を広げることである。
さらに、コア参照監視信号は、コア参照エラーを低減し、コア参照一貫性を向上させるために組み込まれている。
論文 参考訳(メタデータ) (2020-10-17T16:40:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。