論文の概要: Contrastive Learning enhanced Author-Style Headline Generation
- arxiv url: http://arxiv.org/abs/2211.03305v1
- Date: Mon, 7 Nov 2022 04:51:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-08 16:54:40.801298
- Title: Contrastive Learning enhanced Author-Style Headline Generation
- Title(参考訳): コントラスト学習による著者型見出し生成
- Authors: Hui Liu, Weidong Guo, Yige Chen and Xiangyang Li
- Abstract要約: CLH3G(Contrastive Learning enhanced Historical Headlines based Headline Generation)と呼ばれる新しいSeq2Seqモデルを提案する。
過去の見出しを考慮に入れることで、著者のスタイル的特徴をモデルに統合し、著者のスタイルと整合した見出しを生成することができる。
実験の結果,同一ユーザの過去の見出しは,見出し生成を大幅に改善できることがわかった。
- 参考スコア(独自算出の注目度): 15.391087541824279
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Headline generation is a task of generating an appropriate headline for a
given article, which can be further used for machine-aided writing or enhancing
the click-through ratio. Current works only use the article itself in the
generation, but have not taken the writing style of headlines into
consideration. In this paper, we propose a novel Seq2Seq model called CLH3G
(Contrastive Learning enhanced Historical Headlines based Headline Generation)
which can use the historical headlines of the articles that the author wrote in
the past to improve the headline generation of current articles. By taking
historical headlines into account, we can integrate the stylistic features of
the author into our model, and generate a headline not only appropriate for the
article, but also consistent with the author's style. In order to efficiently
learn the stylistic features of the author, we further introduce a contrastive
learning based auxiliary task for the encoder of our model. Besides, we propose
two methods to use the learned stylistic features to guide both the pointer and
the decoder during the generation. Experimental results show that historical
headlines of the same user can improve the headline generation significantly,
and both the contrastive learning module and the two style features fusion
methods can further boost the performance.
- Abstract(参考訳): 見出し生成は、与えられた記事に対して適切な見出しを生成するタスクであり、さらに機械支援の書き込みやクリックスルー比の向上に使用できる。
現在の作品では、記事自体を世代でのみ使用するが、見出しの書き方が考慮されていない。
本稿では、著者が過去に書いた記事の歴史的見出しを利用して、現在の記事の見出し生成を改善するclh3g(contrastive learning enhanced historical headlines based headline generation)と呼ばれる新しいseq2seqモデルを提案する。
過去の見出しを考慮に入れることで、著者のスタイル的特徴を私たちのモデルに統合し、記事にふさわしいだけでなく、著者のスタイルと整合した見出しを生成することができる。
さらに,著者のスタイリスティックな特徴を効率的に学習するために,モデルエンコーダのためのコントラスト学習に基づく補助タスクを導入する。
さらに,生成中のポインタとデコーダの両方をガイドするために,学習スタイリスティックな特徴を用いた2つの手法を提案する。
実験の結果,同一ユーザの過去の見出しは見出し生成を著しく改善し,コントラスト学習モジュールと2つのスタイル特徴融合手法の両方により,さらなる性能向上が期待できることがわかった。
関連論文リスト
- Capturing Style in Author and Document Representation [4.323709559692927]
著者と文書の埋め込みをスタイリスティックな制約で学習する新しいアーキテクチャを提案する。
本稿では,Gutenbergプロジェクトから抽出した文芸コーパス,Blog Authorship,IMDb62の3つのデータセットについて評価を行った。
論文 参考訳(メタデータ) (2024-07-18T10:01:09Z) - SCStory: Self-supervised and Continual Online Story Discovery [53.72745249384159]
SCStoryは、素早く公開されたニュース記事ストリームを人間のアノテーションなしでリアルタイムで消化するのに役立つ。
SCStoryは、ニュース記事ストリームのストーリー指向適応モデリングという新しいアイデアを取り入れて、自己指導的かつ継続的な学習を取り入れている。
論文 参考訳(メタデータ) (2023-11-27T04:50:01Z) - Unsupervised Neural Stylistic Text Generation using Transfer learning
and Adapters [66.17039929803933]
応答生成のためのスタイル特化属性を学習するために,モデルパラメータの0.3%しか更新しない新しい転送学習フレームワークを提案する。
我々はPERSONALITY-CAPTIONSデータセットからスタイル固有の属性を学習する。
論文 参考訳(メタデータ) (2022-10-07T00:09:22Z) - StoryTrans: Non-Parallel Story Author-Style Transfer with Discourse
Representations and Content Enhancing [73.81778485157234]
長文は通常、文よりも談話構造のような複雑な著者の言語的嗜好を含んでいる。
我々は、入力されたストーリーを特定の著者スタイルに転送する必要があるノン並列ストーリー作者スタイル転送のタスクを定式化する。
モデルが自動エンコーダに退化することを防ぐために,学習した談話表現からスタイル的特徴を引き離すための追加の学習目標を用いる。
論文 参考訳(メタデータ) (2022-08-29T08:47:49Z) - Keyphrase Generation Beyond the Boundaries of Title and Abstract [28.56508031460787]
キーワード生成は、与えられた文書を最もよく記述するフレーズ(キーワード)を生成することを目的としている。
本研究では、意味論的に類似した記事からの追加データの統合や、与えられた記事の全文の統合が、ニューラルキーフレーズ生成モデルに役立つかどうかを考察する。
特に記事の要約形式で全文から文を追加することは、両方のキーフレーズの生成を著しく改善することを発見した。
論文 参考訳(メタデータ) (2021-12-13T16:33:01Z) - The Style-Content Duality of Attractiveness: Learning to Write
Eye-Catching Headlines via Disentanglement [59.58372539336339]
目を引く見出しはクリック数を増やす最初のデバイスとして機能し、プロデューサーと視聴者の間の相互効果をもたらす。
そこで本稿では,魅力的なコンテンツを取り込む見出しを生成するdahg(disentanglement-based attractive headline generator)を提案する。
論文 参考訳(メタデータ) (2020-12-14T11:11:43Z) - Hooks in the Headline: Learning to Generate Headlines with Controlled
Styles [69.30101340243375]
我々は,見出しを3つのスタイルで強化する新しいタスク,Styllistic Headline Generation (SHG)を提案する。
TitleStylistは、要約と再構築タスクをマルチタスクフレームワークに組み合わせることで、スタイル固有の見出しを生成する。
我々のモデルが生成したアトラクションスコアは、最先端の要約モデルの9.68%を超え、人間による参照よりも優れています。
論文 参考訳(メタデータ) (2020-04-04T17:24:47Z) - Learning to Select Bi-Aspect Information for Document-Scale Text Content
Manipulation [50.01708049531156]
我々は、テキストスタイルの転送とは逆の文書スケールのテキストコンテンツ操作という、新しい実践的なタスクに焦点を当てる。
詳細は、入力は構造化されたレコードと、別のレコードセットを記述するための参照テキストのセットである。
出力は、ソースレコードセットの部分的内容と参照の書き込みスタイルを正確に記述した要約である。
論文 参考訳(メタデータ) (2020-02-24T12:52:10Z) - Attractive or Faithful? Popularity-Reinforced Learning for Inspired
Headline Generation [0.0]
PORL-HG(Popularity-Reinforced Learning for inspired Headline Generation)という新しいフレームワークを提案する。
PORL-HGは,1) 抽出者に対して,抽出者から魅力的な文を選択するよう誘導するPTA (Popular Topic Attention) と,2) 抽出者に対して魅力的な文の書き直しを誘導する人気予測器を併用して,抽出促進アーキテクチャを利用する。
提案したPORL-HGは,ヒト (71.03%) と予測因子 (少なくとも27.60%) で評価された,最先端のヘッドライン生成モデルよりも優れていた。
論文 参考訳(メタデータ) (2020-02-06T04:37:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。