論文の概要: SentBS: Sentence-level Beam Search for Controllable Summarization
- arxiv url: http://arxiv.org/abs/2210.14502v1
- Date: Wed, 26 Oct 2022 06:21:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-27 14:22:19.899325
- Title: SentBS: Sentence-level Beam Search for Controllable Summarization
- Title(参考訳): SentBS:制御可能な要約のための文レベルビーム探索
- Authors: Chenhui Shen, Liying Cheng, Lidong Bing, Yang You, Luo Si
- Abstract要約: 文レベルのビームサーチ生成手法(SentBS)を提案する。
実験により、SentBSのすべての組み合わせが生成したテキストと所望の構造との一致を改善し、最良の方法は既存のモデルが抱える構造的差異を約68%削減できることが示されている。
- 参考スコア(独自算出の注目度): 55.27670620831012
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A wide range of control perspectives have been explored in controllable text
generation. Structure-controlled summarization is recently proposed as a useful
and interesting research direction. However, current structure-controlling
methods have limited effectiveness in enforcing the desired structure. To
address this limitation, we propose a sentence-level beam search generation
method (SentBS), where evaluation is conducted throughout the generation
process to select suitable sentences for subsequent generations. We experiment
with different combinations of decoding methods to be used as subcomponents by
SentBS and evaluate results on the structure-controlled dataset MReD.
Experiments show that all explored combinations for SentBS can improve the
agreement between the generated text and the desired structure, with the best
method significantly reducing the structural discrepancies suffered by the
existing model, by approximately 68%.
- Abstract(参考訳): 制御可能なテキスト生成において、幅広い制御視点が検討されている。
近年,構造制御型要約が有用で興味深い研究方法として提案されている。
しかし、現在の構造制御手法では、所望の構造を強制する効果は限られている。
そこで本研究では,文レベルのビーム探索生成法(sentbs)を提案する。
我々は,SentBSがサブコンポーネントとして使用するデコード手法の異なる組み合わせを実験し,構造制御されたデータセットMReDの結果を評価する。
実験により、SentBSのすべての組み合わせが生成したテキストと所望の構造との一致を改善し、最良の方法は既存のモデルが抱える構造的差異を約68%削減できることが示されている。
関連論文リスト
- Controllable Text Generation in the Instruction-Tuning Era [3.310278632293704]
プロンプトベースのアプローチは,ほとんどのデータセットやタスクにおいて,制御可能なテキスト生成方法よりも優れていることがわかった。
制約データセットを自動的に生成するために,タスクデータセットとコンテキスト内機能を備えた大規模言語モデルのみを使用するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2024-05-02T17:24:30Z) - Reinforcement Learning with Token-level Feedback for Controllable Text Generation [16.117006822479407]
token-Level rewards for controllable text generationを定式化するTOLEという新しい強化学習アルゴリズムを提案する。
実験結果から,本アルゴリズムは単一属性と複数属性の制御タスクにおいて,優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2024-03-18T08:18:37Z) - Sequential Visual and Semantic Consistency for Semi-supervised Text
Recognition [56.968108142307976]
Scene Text Recognition (STR) は、大規模なアノテートデータを必要とする課題である。
既存のSTR法の多くは、STRモデルの性能を低下させ、ドメイン差を生じさせる合成データに頼っている。
本稿では,視覚的・意味的両面から単語レベルの整合性正則化を取り入れたSTRの半教師付き学習手法を提案する。
論文 参考訳(メタデータ) (2024-02-24T13:00:54Z) - Exploiting Data Hierarchy as a New Modality for Contrastive Learning [0.0]
この研究は、階層的に構造化されたデータが、ニューラルネットワークが大聖堂の概念的な表現を学ぶのにどのように役立つかを研究する。
基礎となるWikiScenesデータセットは、大聖堂の構成要素の空間的に整理された階層構造を提供する。
本稿では,エンコーダの潜伏空間におけるデータ空間階層を表現するために,三重項マージン損失を利用した新しい階層的コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-06T21:47:49Z) - Sequentially Controlled Text Generation [97.22539956688443]
GPT-2は、驚くほど人間らしく、長い文書が混ざり合ったり、人間のような文章構造に従わなかったりする文を生成する。
本研究では,長距離テキストにおける命令構造の問題について検討する。
生成と編集が可能な逐次制御型テキスト生成パイプラインを開発した。
論文 参考訳(メタデータ) (2023-01-05T21:23:51Z) - Classifiers are Better Experts for Controllable Text Generation [63.17266060165098]
提案手法は, PPLにおける最近のPPLM, GeDi, DExpertsよりも有意に優れており, 生成したテキストの外部分類器に基づく感情の精度が高いことを示す。
同時に、実装やチューニングも簡単で、制限や要件も大幅に少なくなります。
論文 参考訳(メタデータ) (2022-05-15T12:58:35Z) - Latent Template Induction with Gumbel-CRFs [107.17408593510372]
文生成のための潜在テンプレートを推論するための構造化変分オートエンコーダについて検討する。
構造化推論ネットワークとして、トレーニング中に解釈可能なテンプレートを学習することを示す。
論文 参考訳(メタデータ) (2020-11-29T01:00:57Z) - Robust Group Subspace Recovery: A New Approach for Multi-Modality Data
Fusion [18.202825916298437]
本稿では,グループ間隔に基づく新しいマルチモーダルデータ融合手法を提案する。
提案手法は、異なるモダリティデータ間の構造的依存関係を利用して、関連する対象オブジェクトをクラスタ化する。
得られたUoS構造を用いて、新たに観測されたデータポイントを分類し、提案手法の抽象化能力を強調する。
論文 参考訳(メタデータ) (2020-06-18T16:31:31Z) - AutoSTR: Efficient Backbone Search for Scene Text Recognition [80.7290173000068]
テキストインスタンスの多様性とシーンの複雑さのため、シーンテキスト認識(STR)は非常に難しい。
テキスト認識性能を向上させるために,データ依存のバックボーンを検索するための自動STR(AutoSTR)を提案する。
実験によると、データ依存のバックボーンを検索することで、AutoSTRは標準ベンチマークにおける最先端のアプローチより優れている。
論文 参考訳(メタデータ) (2020-03-14T06:51:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。