論文の概要: Exploring Controllable Text Generation Techniques
- arxiv url: http://arxiv.org/abs/2005.01822v2
- Date: Fri, 30 Oct 2020 21:28:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 00:55:05.241339
- Title: Exploring Controllable Text Generation Techniques
- Title(参考訳): 制御可能なテキスト生成技術の探求
- Authors: Shrimai Prabhumoye, Alan W Black, Ruslan Salakhutdinov
- Abstract要約: 5つのモジュールに分類することで、生成プロセスのパイプラインの新しいスキーマを提供する。
本稿では,これらのモジュールの変調を行うための様々な手法の概要を紹介する。
本稿では,モジュールの組み合わせに基づいて新しいアーキテクチャを開発する方法について述べる。
- 参考スコア(独自算出の注目度): 133.05105352571715
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural controllable text generation is an important area gaining attention
due to its plethora of applications. Although there is a large body of prior
work in controllable text generation, there is no unifying theme. In this work,
we provide a new schema of the pipeline of the generation process by
classifying it into five modules. The control of attributes in the generation
process requires modification of these modules. We present an overview of
different techniques used to perform the modulation of these modules. We also
provide an analysis on the advantages and disadvantages of these techniques. We
further pave ways to develop new architectures based on the combination of the
modules described in this paper.
- Abstract(参考訳): ニューラルコントロール可能なテキスト生成は、多くのアプリケーションのために注目を集める重要な領域である。
制御可能なテキスト生成に先立つ多くの作業があるが、統一されたテーマは存在しない。
本研究では,5つのモジュールに分類することで,生成プロセスのパイプラインの新しいスキーマを提供する。
生成プロセスにおける属性の制御には、これらのモジュールの変更が必要である。
本稿では,これらモジュールの変調を行うための様々な手法について概説する。
また、これらの手法の利点と欠点について分析する。
本稿では,モジュールの組み合わせに基づいて新しいアーキテクチャを開発する方法について述べる。
関連論文リスト
- Harnessing the Plug-and-Play Controller by Prompting [12.705251690623495]
本稿では,事前学習言語モデル(PLM)を用いたテキスト生成におけるフレキシブル属性制御手法を提案する。
提案手法は、生成過程をPPCで導くことにより、生成したテキストの流布率を高めることを目的としている。
論文 参考訳(メタデータ) (2024-02-06T17:18:25Z) - Advancements in Scientific Controllable Text Generation Methods [0.0]
7つのコンポーネントがスキーマを構成し、それぞれが生成プロセスに不可欠である。
7つのコンポーネントのそれぞれを変調するために使用される様々な変調戦略について述べる。
論文 参考訳(メタデータ) (2023-07-08T15:22:29Z) - Benchmarking and Analyzing 3D-aware Image Synthesis with a Modularized
Codebase [30.334079854982843]
生成プロセスをモジュール化することで、十分に構造化されたCarverを構築します。
様々な最先端アルゴリズムの再現は、モジュール化の可用性を示している。
我々は、様々な種類の点特徴の比較など、詳細な分析を行う。
論文 参考訳(メタデータ) (2023-06-21T17:59:51Z) - Modular Deep Learning [120.36599591042908]
トランスファーラーニングは近年、機械学習の主要なパラダイムとなっている。
負の干渉を伴わずに複数のタスクを専門とするモデルを開発する方法はまだ不明である。
これらの課題に対する有望な解決策として、モジュール型ディープラーニングが登場した。
論文 参考訳(メタデータ) (2023-02-22T18:11:25Z) - An Overview on Controllable Text Generation via Variational
Auto-Encoders [15.97186478109836]
ニューラルベース生成モデリングの最近の進歩は、コンピュータシステムが人間と会話できるという期待を再燃させた。
変分自動エンコーダ(VAE)のような潜在変数モデル(LVM)は、テキストデータの分布パターンを特徴付けるように設計されている。
この概要は、既存の生成方式、テキスト変分自動エンコーダに関連する問題、および制御可能な生成に関するいくつかのアプリケーションについて概説する。
論文 参考訳(メタデータ) (2022-11-15T07:36:11Z) - What and How of Machine Learning Transparency: Building Bespoke
Explainability Tools with Interoperable Algorithmic Components [77.87794937143511]
本稿では,データ駆動予測モデルを説明するためのハンズオントレーニング教材について紹介する。
これらのリソースは、解釈可能な表現合成、データサンプリング、説明生成の3つのコアビルディングブロックをカバーする。
論文 参考訳(メタデータ) (2022-09-08T13:33:25Z) - A Survey of Controllable Text Generation using Transformer-based
Pre-trained Language Models [21.124096884958337]
制御可能なテキスト生成(CTG)は、自然言語生成(NLG)分野における新興分野である
本稿では,この領域における共通課題,主なアプローチ,評価手法について,体系的な批判的レビューを行う。
我々は、この分野が直面している課題について議論し、様々な将来的な方向性を示した。
論文 参考訳(メタデータ) (2022-01-14T08:32:20Z) - Neural Function Modules with Sparse Arguments: A Dynamic Approach to
Integrating Information across Layers [84.57980167400513]
Neural Function Modules (NFM)は、ディープラーニングに同じ構造機能を導入することを目的としている。
トップダウンとボトムアップのフィードバックを組み合わせたフィードフォワードネットワークのコンテキストにおける作業のほとんどは、分類の問題に限られている。
私たちの仕事の重要な貢献は、フレキシブルなアルゴリズムで注意、疎結合、トップダウン、ボトムアップのフィードバックを組み合わせることです。
論文 参考訳(メタデータ) (2020-10-15T20:43:17Z) - Posterior Control of Blackbox Generation [126.33511630879713]
我々は、構造化潜在変数アプローチにより学習した離散制御状態を持つニューラルジェネレーションモデルの拡張を検討する。
この手法は標準ベンチマークよりも改善され、きめ細かい制御も可能である。
論文 参考訳(メタデータ) (2020-05-10T03:22:45Z) - Reverse Engineering Configurations of Neural Text Generation Models [86.9479386959155]
モデル選択の結果、機械が生成したテキストに現れるアーティファクトの研究は、新しい研究領域である。
我々は、モデリング選択が検出可能なアーティファクトを生成テキストに残すかどうかを確認するために、広範囲な診断テストを実行する。
我々の重要な発見は、厳密な実験によって裏付けられ、そのような成果物が存在することと、生成されたテキストのみを観察することで異なるモデリング選択を推測できることである。
論文 参考訳(メタデータ) (2020-04-13T21:02:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。