Fugu-MT 論文翻訳(概要): Modern Methods for Text Generation

論文の概要: Modern Methods for Text Generation

arxiv url: http://arxiv.org/abs/2009.04968v1
Date: Thu, 10 Sep 2020 16:17:10 GMT
ステータス: 処理完了
システム内更新日: 2022-10-20 02:43:05.994403
Title: Modern Methods for Text Generation
Title（参考訳）: テキスト生成の現代的方法
Authors: Dimas Munoz Montesinos
Abstract要約: 最近、Transformersと呼ばれる新しいアーキテクチャにより、機械学習モデルはより優れたシーケンシャルデータを理解することができる。 BERTとGPT-2は、トランスフォーマーをコアに用い、テキスト分類、翻訳、NLIタスクなどのタスクで優れたパフォーマンスを示している。本稿では,両アルゴリズムを解析し,テキスト生成タスクの出力品質を比較する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Synthetic text generation is challenging and has limited success. Recently, a new architecture, called Transformers, allow machine learning models to understand better sequential data, such as translation or summarization. BERT and GPT-2, using Transformers in their cores, have shown a great performance in tasks such as text classification, translation and NLI tasks. In this article, we analyse both algorithms and compare their output quality in text generation tasks.
Abstract（参考訳）: 合成テキスト生成は困難であり、成功は限られている。最近、transformersと呼ばれる新しいアーキテクチャにより、機械学習モデルが翻訳や要約といったシーケンシャルなデータを理解することができる。 BERTとGPT-2は、トランスフォーマーをコアに用い、テキスト分類、翻訳、NLIタスクなどのタスクで優れたパフォーマンスを示している。本稿では,両アルゴリズムを解析し,テキスト生成タスクの出力品質を比較する。

関連論文リスト

Code-Switching Text Generation and Injection in Mandarin-English ASR [57.57570417273262]
業界で広く使われているストリーミングモデルTransformer-Transducer(T-T)の性能向上のためのテキスト生成とインジェクションについて検討する。まず、コードスイッチングテキストデータを生成し、テキスト-to-Speech(TTS)変換または暗黙的に音声とテキストの潜在空間を結び付けることによって、T-Tモデルに生成されたテキストを明示的に注入する戦略を提案する。実際のマンダリン・イングリッシュ音声の1,800時間を含むデータセットを用いて訓練したT-Tモデルの実験結果から,生成したコードスイッチングテキストを注入する手法により,T-Tモデルの性能が著しく向上することが示された。
論文参考訳（メタデータ） (2023-03-20T09:13:27Z)
Event Transition Planning for Open-ended Text Generation [55.729259805477376]
オープンエンドテキスト生成タスクは、事前コンテキストに制限されたコヒーレントな継続を生成するためにモデルを必要とする。オープンエンドテキスト生成におけるイベントを明示的にアレンジする新しい2段階手法を提案する。我々のアプローチは、特別に訓練された粗大なアルゴリズムとして理解することができる。
論文参考訳（メタデータ） (2022-04-20T13:37:51Z)
PLANET: Dynamic Content Planning in Autoregressive Transformers for Long-form Text Generation [47.97523895218194]
本稿では,自己回帰型自己認識機構を利用してコンテンツ計画と表面実現を動的に行う新しい生成フレームワークを提案する。本フレームワークは,単語のバッグをベースとした文レベルのセマンティックプランを維持するために,トランスフォーマーデコーダを潜在表現で強化する。
論文参考訳（メタデータ） (2022-03-17T05:52:35Z)
A Benchmark Corpus for the Detection of Automatically Generated Text in Academic Publications [0.02578242050187029]
本稿では,人工的な研究内容からなる2つのデータセットについて述べる。第1のケースでは、コンテンツはオリジナルの論文から短いプロンプトを抽出した後、GPT-2モデルで完全に生成される。部分的あるいはハイブリッドなデータセットは、いくつかの抽象文をArxiv-NLPモデルによって生成される文に置き換えることで生成される。 BLEU や ROUGE などの流速指標を用いて,生成したテキストと整列した原文とを比較し,データセットの品質を評価する。
論文参考訳（メタデータ） (2022-02-04T08:16:56Z)
Outline to Story: Fine-grained Controllable Story Generation from Cascaded Events [39.577220559911055]
長文のきめ細かい制御が可能な生成のためのテストベッドとして,"Outline to Story" (O2S) という新しいタスクを提案する。次に、最新のキーワード抽出技術で構築された将来のベンチマーク用のデータセットを作成します。
論文参考訳（メタデータ） (2021-01-04T08:16:21Z)
Data-to-Text Generation with Iterative Text Editing [3.42658286826597]
本稿では,反復的テキスト編集に基づく新しいデータ・テキスト生成手法を提案する。まず、自明なテンプレートを用いてデータ項目をテキストに変換し、その後、文融合タスクのために訓練されたニューラルモデルにより結果のテキストを反復的に改善する。モデルの出力は単純で、既製の事前訓練言語モデルで再帰的にフィルタリングされる。
論文参考訳（メタデータ） (2020-11-03T13:32:38Z)
Improving Text Generation with Student-Forcing Optimal Transport [122.11881937642401]
トレーニングモードとテストモードで生成されたシーケンスに最適なトランスポート(OT)を提案する。テキストシーケンスの構造的および文脈的情報に基づいて、OT学習を改善するための拡張も提案されている。提案手法の有効性は,機械翻訳,テキスト要約,テキスト生成タスクにおいて検証される。
論文参考訳（メタデータ） (2020-10-12T19:42:25Z)
Applying the Transformer to Character-level Transduction [68.91664610425114]
この変換器は、様々な単語レベルのNLPタスクにおいて、繰り返しニューラルネットワークに基づくシーケンス・ツー・シーケンスモデルより優れていることが示されている。十分なバッチサイズで、トランスフォーマーは文字レベルタスクの繰り返しモデルよりも優れていることを示す。
論文参考訳（メタデータ） (2020-05-20T17:25:43Z)
POINTER: Constrained Progressive Text Generation via Insertion-based Generative Pre-training [93.79766670391618]
ハードコントラストテキスト生成のための新しい挿入ベースアプローチであるPOINTERを提案する。提案手法は,既存のトークン間で段階的に新しいトークンを並列に挿入することによって動作する。結果として生じる粗大な階層構造は、生成プロセスを直感的で解釈可能である。
論文参考訳（メタデータ） (2020-05-01T18:11:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。