論文の概要: Attend to the Right Context: A Plug-and-Play Module for
Content-Controllable Summarization
- arxiv url: http://arxiv.org/abs/2212.10819v1
- Date: Wed, 21 Dec 2022 07:17:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-22 14:46:19.368315
- Title: Attend to the Right Context: A Plug-and-Play Module for
Content-Controllable Summarization
- Title(参考訳): 正しい文脈に順応する:コンテンツ制御可能な要約のためのプラグアンドプレイモジュール
- Authors: Wen Xiao, Lesly Miculicich, Yang Liu, Pengcheng He, Giuseppe Carenini
- Abstract要約: 本稿では,一般的な要約処理をコンテンツ制御可能な要約タスクに適応させるプラグイン・アンド・プレイモジュールRelAttnを提案する。
実験の結果,提案手法はすべての要約器を効果的に改善し,プレフィックスベースの手法や広く使用されているプラグアンドプレイモデルよりも優れていることがわかった。
- 参考スコア(独自算出の注目度): 38.894418920684366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Content-Controllable Summarization generates summaries focused on the given
controlling signals. Due to the lack of large-scale training corpora for the
task, we propose a plug-and-play module RelAttn to adapt any general
summarizers to the content-controllable summarization task. RelAttn first
identifies the relevant content in the source documents, and then makes the
model attend to the right context by directly steering the attention weight. We
further apply an unsupervised online adaptive parameter searching algorithm to
determine the degree of control in the zero-shot setting, while such parameters
are learned in the few-shot setting. By applying the module to three backbone
summarization models, experiments show that our method effectively improves all
the summarizers, and outperforms the prefix-based method and a widely used
plug-and-play model in both zero- and few-shot settings. Tellingly, more
benefit is observed in the scenarios when more control is needed.
- Abstract(参考訳): Content-Controllable Summarizationは、与えられた制御信号に焦点を当てた要約を生成する。
大規模学習コーパスの欠如により,コンテンツ制御可能な要約タスクに一般的な要約処理を適応させるプラグイン・アンド・プレイモジュールRelAttnを提案する。
RelAttnはまず、ソースドキュメントの関連コンテンツを特定し、次に、注意重みを直接操作することで、モデルに適切なコンテキストを対応させる。
さらに、教師なしオンライン適応パラメータ探索アルゴリズムを適用し、ゼロショット設定における制御の度合いを判定する一方、そのようなパラメータは少数ショット設定で学習する。
このモジュールを3つのバックボーン要約モデルに適用することにより,提案手法がすべての要約器を効果的に改善し,プレフィックスベースの手法と広範に使用されているプラグアンドプレイモデルをゼロショットと少数ショットの両方で上回ることを示す。
実のところ、より多くのコントロールが必要なシナリオでは、より多くのメリットが見られます。
関連論文リスト
- Guide-to-Explain for Controllable Summarization [11.904090197598505]
大規模言語モデル (LLMs) による制御可能な要約は未定である。
制御可能な要約のためのガイド・ツー・説明フレームワーク(GTE)を提案する。
我々のフレームワークは、初期ドラフトで間違った属性を識別し、前回の出力でエラーを説明するのに役立てます。
論文 参考訳(メタデータ) (2024-11-19T12:36:02Z) - Readout Guidance: Learning Control from Diffusion Features [96.22155562120231]
本稿では,学習信号を用いたテキスト・画像拡散モデル制御手法であるReadout Guidanceを提案する。
Readout Guidanceはリードアウトヘッドを使用し、トレーニング済みの凍結拡散モデルの特徴から信号を取り出すために訓練された軽量ネットワークである。
これらの読み出しは、ポーズ、深さ、エッジなどのシングルイメージ特性や、対応性や外観類似性といった複数の画像に関連する高次特性を符号化することができる。
論文 参考訳(メタデータ) (2023-12-04T18:59:32Z) - MACSum: Controllable Summarization with Mixed Attributes [56.685735509260276]
MACSumは、混合属性を制御するための最初の人間アノテーションによる要約データセットである。
混合制御可能な要約の新しいタスクに対する2つの単純かつ効果的なパラメータ効率のアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-09T17:17:37Z) - Model ensemble instead of prompt fusion: a sample-specific knowledge
transfer method for few-shot prompt tuning [85.55727213502402]
我々は、ソースタスクのソフトプロンプトから知識を伝達することで、プロンプトチューニングにおける数ショットのパフォーマンスを改善することに集中する。
我々はソースモデル(SESoM)のサンプル固有アンサンブルを提案する。
SESoMは、ソースモデルが出力されるときに、ターゲットの各サンプルに対するソースモデルのコントリビューションを個別に調整することを学ぶ。
論文 参考訳(メタデータ) (2022-10-23T01:33:16Z) - Improving the Faithfulness of Abstractive Summarization via Entity
Coverage Control [27.214742188672464]
エンティティカバレッジ制御(ECC)を用いたエンティティレベルの幻覚の治療法を提案する。
ECCはエンティティカバレッジの精度を計算し、トレーニング例ごとに対応する制御コードをプリペンドする。
提案手法は,教師付き微調整およびゼロショット設定において,より忠実かつ健全な抽象的要約をもたらすことを示す。
論文 参考訳(メタデータ) (2022-07-05T18:52:19Z) - Aspect-Controllable Opinion Summarization [58.5308638148329]
アスペクトクエリに基づいてカスタマイズした要約を生成する手法を提案する。
レビューコーパスを用いて、アスペクトコントローラで強化された(リビュー、サマリ)ペアの合成トレーニングデータセットを作成する。
合成データセットを用いて事前学習したモデルを微調整し、アスペクトコントローラを変更することでアスペクト固有の要約を生成する。
論文 参考訳(メタデータ) (2021-09-07T16:09:17Z) - CTRLsum: Towards Generic Controllable Text Summarization [54.69190421411766]
現在、制御可能な要約のための新しいフレームワークである。
本手法により,ユーザは要約システムと対話することで,生成された要約の複数の側面を制御できる。
単一の統一モデルを使用することで、sumは推論時に要約操作の幅広い範囲を達成できる。
論文 参考訳(メタデータ) (2020-12-08T08:54:36Z) - Self-Supervised and Controlled Multi-Document Opinion Summarization [16.674646504295687]
そこで本稿では,個々の文書を類似文書の集合のターゲット要約とする自己教師型セットアップを提案する。
制御符号を用いて幻覚の問題に対処する。
グラフベースと最近のニューラル抽象的教師なしモデルに対する2つのデータセットのベンチマークでは,提案手法が優れた品質と妥当性を持つ要約を生成することが示された。
論文 参考訳(メタデータ) (2020-04-30T13:20:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。