論文の概要: Inference Time Style Control for Summarization
- arxiv url: http://arxiv.org/abs/2104.01724v1
- Date: Mon, 5 Apr 2021 00:27:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-07 01:06:06.610967
- Title: Inference Time Style Control for Summarization
- Title(参考訳): 要約のための推論時間スタイル制御
- Authors: Shuyang Cao and Lu Wang
- Abstract要約: 本稿では,事前学習されたトランスフォーマライズモデル上で,サマリデコード中にデプロイ可能な2つの新しい手法を提案する。
単純さ制御による要約実験では、自動評価と人間の判断が共に、よりシンプルな言語で出力を生成するモデルを見つけました。
- 参考スコア(独自算出の注目度): 6.017006996402699
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: How to generate summaries of different styles without requiring corpora in
the target styles, or training separate models? We present two novel methods
that can be deployed during summary decoding on any pre-trained
Transformer-based summarization model. (1) Decoder state adjustment instantly
modifies decoder final states with externally trained style scorers, to
iteratively refine the output against a target style. (2) Word unit prediction
constrains the word usage to impose strong lexical control during generation.
In experiments of summarizing with simplicity control, automatic evaluation and
human judges both find our models producing outputs in simpler languages while
still informative. We also generate news headlines with various ideological
leanings, which can be distinguished by humans with a reasonable probability.
- Abstract(参考訳): ターゲットスタイルのコーパスを必要とせずに、異なるスタイルの要約を生成する方法や、別々のモデルをトレーニングする方法。
本稿では,事前学習されたトランスフォーマライズモデル上で,サマリデコード中にデプロイ可能な2つの新しい手法を提案する。
1)デコーダ状態調整は、外部に訓練されたスタイルスコアラーでデコーダ最終状態を即時に修正し、ターゲットスタイルに対して出力を反復的に洗練する。
2)単語単位予測は単語使用量を制約し,生成中に強い語彙制御を課す。
単純さ制御による要約実験では、自動評価と人間の判断が共に、よりシンプルな言語で出力を生成するモデルを見つけました。
また、様々なイデオロギー的傾向を持つニュース見出しを生成し、合理的な確率で人間によって区別することができる。
関連論文リスト
- Unsupervised Text Style Transfer with Deep Generative Models [12.801169425020225]
深層生成モデルを用いた教師なしテキストスタイル転送のための汎用フレームワークを提案する。
我々のフレームワークは,従来の埋め込み手法とプロトタイプ手法を2つの特別な形式として統一することができる。
また、アライメントエンコーダや逆行訓練といった分野において、これまで提案されていたテクニックを説明するための原則的な視点も提供する。
論文 参考訳(メタデータ) (2023-08-31T09:29:35Z) - Attributable and Scalable Opinion Summarization [79.87892048285819]
我々は、頻繁なエンコーディングを復号することで抽象的な要約を生成し、同じ頻繁なエンコーディングに割り当てられた文を選択して抽出的な要約を生成する。
本手法は,要約プロセスの一部として要約を生成するために使用される文を同定するため,帰属的手法である。
なぜなら、アグリゲーションはトークンの長いシーケンスではなく、潜在空間で実行されるからである。
論文 参考訳(メタデータ) (2023-05-19T11:30:37Z) - Collocation2Text: Controllable Text Generation from Guide Phrases in
Russian [0.0]
Collocation2Textはロシア語で自動制御可能なテキスト生成のためのプラグイン・アンド・プレイ方式である。
この手法は、自己回帰言語ruGPT-3モデルと自己符号化言語ruRoBERTaモデルという2つの相互作用モデルに基づいている。
提案手法を用いてニュース記事を生成する実験は,自動生成された流布文に対して有効性を示した。
論文 参考訳(メタデータ) (2022-06-18T17:10:08Z) - Twist Decoding: Diverse Generators Guide Each Other [116.20780037268801]
様々なモデルの恩恵を受けながらテキストを生成するシンプルで一般的な推論アルゴリズムであるTwist decodingを導入する。
我々の方法は、語彙、トークン化、あるいは生成順序が共有されていると仮定しない。
論文 参考訳(メタデータ) (2022-05-19T01:27:53Z) - Word-Level Style Control for Expressive, Non-attentive Speech Synthesis [1.8262960053058506]
2つのエンコーダの助けを借りて、音声データの単語レベルのスタイリスティックな表現と韻律的な表現を学習しようとする。
結果として得られたモデルにより,韻律伝達能力だけでなく,単語レベルとグローバルな制御が可能であることがわかった。
論文 参考訳(メタデータ) (2021-11-19T12:03:53Z) - Style Equalization: Unsupervised Learning of Controllable Generative
Sequence Models [23.649790871960644]
制御可能な生成系列モデルの教師なし学習において発生するトレーニング-推論ミスマッチに対処する。
スタイル等化と呼ばれるスタイル変換モジュールを導入することで、異なるコンテンツとスタイルサンプルを使用したトレーニングを可能にします。
我々のモデルは、実際のデータと類似した平均的な意見スコアを持つ最先端スタイルの複製を実現する。
論文 参考訳(メタデータ) (2021-10-06T16:17:57Z) - Exemplar-Controllable Paraphrasing and Translation using Bitext [57.92051459102902]
私たちは、バイリンガルテキスト(bitext)からのみ学ぶことができるように、以前の作業からモデルを適用する。
提案した1つのモデルでは、両言語で制御されたパラフレーズ生成と、両言語で制御された機械翻訳の4つのタスクを実行することができる。
論文 参考訳(メタデータ) (2020-10-12T17:02:50Z) - Neural Syntactic Preordering for Controlled Paraphrase Generation [57.5316011554622]
私たちの研究は、構文変換を使用して、ソース文をソフトに"リオーダー"し、神経パラフレージングモデルをガイドします。
まず、入力文が与えられた場合、エンコーダ・デコーダモデルを用いて、実行可能な構文再構成のセットを導出する。
次に、提案した各再構成を用いて位置埋め込みのシーケンスを生成し、最終的なエンコーダ-デコーダパラフレーズモデルが特定の順序でソース語に従属することを奨励する。
論文 参考訳(メタデータ) (2020-05-05T09:02:25Z) - Few-Shot Learning for Opinion Summarization [117.70510762845338]
オピニオン要約は、複数の文書で表現された主観的な情報を反映したテキストの自動生成である。
本研究では,要約テキストの生成をブートストラップするのには,少数の要約でも十分であることを示す。
提案手法は, 従来の抽出法および抽象法を, 自動的, 人的評価において大きく上回っている。
論文 参考訳(メタデータ) (2020-04-30T15:37:38Z) - Exploring Explainable Selection to Control Abstractive Summarization [51.74889133688111]
説明可能性を重視した新しいフレームワークを開発する。
新しいペアワイズ行列は、文の相互作用、中心性、属性スコアをキャプチャする。
コンストラクタ内の文分割アテンション機構は、最終要約が所望のコンテンツを強調することを保証する。
論文 参考訳(メタデータ) (2020-04-24T14:39:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。