論文の概要: SETTP: Style Extraction and Tunable Inference via Dual-level Transferable Prompt Learning

• arxiv url: http://arxiv.org/abs/2407.15556v1
• Date: Mon, 22 Jul 2024 11:34:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-23 15:11:26.818639
• Title: SETTP: Style Extraction and Tunable Inference via Dual-level Transferable Prompt Learning
• Title（参考訳）: SETTP:デュアルレベルトランスファー可能なプロンプト学習によるスタイル抽出と可変推論
• Authors: Chunzhen Jin, Yongfeng Huang, Yaqi Wang, Peng Cao, Osmar Zaiane,
• Abstract要約: デュアルレベルトランスファーブル・プロンプト学習によるスタイル抽出とチューナブル推論を提案する。 SETTPは、高リソーススタイル転送から基本スタイルの特徴を含むソーススタイルレベルのプロンプトを学習する。 実験によると、SETTPは最先端の手法に匹敵するパフォーマンスを達成するためにデータボリュームの1/20しか必要としない。
• 参考スコア（独自算出の注目度）: 22.04285529067442
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Text style transfer, an important research direction in natural language processing, aims to adapt the text to various preferences but often faces challenges with limited resources. In this work, we introduce a novel method termed Style Extraction and Tunable Inference via Dual-level Transferable Prompt Learning (SETTP) for effective style transfer in low-resource scenarios. First, SETTP learns source style-level prompts containing fundamental style characteristics from high-resource style transfer. During training, the source style-level prompts are transferred through an attention module to derive a target style-level prompt for beneficial knowledge provision in low-resource style transfer. Additionally, we propose instance-level prompts obtained by clustering the target resources based on the semantic content to reduce semantic bias. We also propose an automated evaluation approach of style similarity based on alignment with human evaluations using ChatGPT-4. Our experiments across three resourceful styles show that SETTP requires only 1/20th of the data volume to achieve performance comparable to state-of-the-art methods. In tasks involving scarce data like writing style and role style, SETTP outperforms previous methods by 16.24\%.
• Abstract（参考訳）: 自然言語処理における重要な研究方向であるテキストスタイル転送は、テキストを様々な好みに適応させることを目的としているが、リソースが限られている場合が多い。 本研究では、低リソースシナリオにおける効果的なスタイル伝達のための2レベルトランスファーブル・プロンプト・ラーニング(SETTP)によるスタイル抽出とチューナブル推論という新しい手法を提案する。 まず、SETTPは、高リソーススタイル転送から基本スタイルの特徴を含むソーススタイルレベルのプロンプトを学習する。 トレーニング中、ソーススタイルレベルのプロンプトはアテンションモジュールを介して転送され、低リソーススタイルのトランスファーにおいて有益な知識提供のためのターゲットスタイルレベルのプロンプトが導出される。 さらに,セマンティックコンテンツに基づいてターゲットリソースをクラスタ化して得られるインスタンスレベルのプロンプトを提案し,セマンティックバイアスを低減する。 また,ChatGPT-4を用いた人的評価のアライメントに基づくスタイル類似度の自動評価手法を提案する。 SETTPは最先端の手法に匹敵する性能を達成するためにデータボリュームの1/20しか必要としないことを示す。 書き方やロールスタイルのような少ないデータを含むタスクでは、SETTPは従来のメソッドを16.24\%上回る。

関連論文リスト

• Authorship Style Transfer with Policy Optimization [26.34892894935038]
  オーサシップスタイルの転送は、ソースの本来の意味を保ちながら、指定されたテキストを指定されたターゲットに書き換えることを目的としている。 既存のアプローチでは、モデルトレーニングのための多くのターゲットスタイルの例が利用可能になっている。
  論文  参考訳（メタデータ） (2024-03-12T19:34:54Z)
• STEER: Unified Style Transfer with Expert Reinforcement [71.3995732115262]
  STEER: Unified Style Transfer with Expert Reinforcementは、スタイル転送のための限られた並列データという課題を克服するために開発された、統一されたフレームワークである。 STEERは堅牢で、ドメイン外のデータでスタイル転送機能を維持し、様々なスタイルでほぼすべてのベースラインを超越している。
  論文  参考訳（メタデータ） (2023-11-13T09:02:30Z)
• ParaGuide: Guided Diffusion Paraphrasers for Plug-and-Play Textual Style Transfer [57.6482608202409]
  テキストスタイル転送は、意味を保ちながらテキストのスタイル特性を変換するタスクである。 任意のスタイルに柔軟に適応できる汎用型転送のための新しい拡散型フレームワークを提案する。 本研究では,人的評価と自動評価の両面から,Enron Email Corpusの手法を検証するとともに,形式性,感情,さらにはオーサシップスタイルの伝達にも優れることを示す。
  論文  参考訳（メタデータ） (2023-08-29T17:36:02Z)
• MSSRNet: Manipulating Sequential Style Representation for Unsupervised Text Style Transfer [82.37710853235535]
  教師なしのテキストスタイル転送タスクは、メインのコンテンツを保持しながらテキストをターゲットのスタイルに書き換えることを目的としている。 従来の方法では、固定サイズのベクトルを使ってテキストスタイルを規制するが、個々のトークンのスタイル強度を正確に伝達することは困難である。 提案手法は,テキスト中の各トークンに個々のスタイルベクトルを割り当てることでこの問題に対処する。
  論文  参考訳（メタデータ） (2023-06-12T13:12:29Z)
• A Unified Arbitrary Style Transfer Framework via Adaptive Contrastive Learning [84.8813842101747]
  Unified Contrastive Arbitrary Style Transfer (UCAST)は、新しいスタイルの学習・伝達フレームワークである。 入力依存温度を導入することで,スタイル伝達のための適応型コントラスト学習方式を提案する。 本フレームワークは,スタイル表現とスタイル伝達のための並列コントラスト学習方式,スタイル分布を効果的に学習するためのドメイン拡張モジュール,スタイル伝達のための生成ネットワークという,3つの重要なコンポーネントから構成される。
  論文  参考訳（メタデータ） (2023-03-09T04:35:00Z)
• Conversation Style Transfer using Few-Shot Learning [56.43383396058639]
  本稿では,会話スタイルの伝達を数ショットの学習問題として紹介する。 そこで本研究では,スタイルフリー対話による課題をピボットとして解くための,コンテキスト内学習手法を提案する。 会話スタイルの転送は下流のタスクにも役立ちます。
  論文  参考訳（メタデータ） (2023-02-16T15:27:00Z)
• Prompt-and-Rerank: A Method for Zero-Shot and Few-Shot Arbitrary Textual Style Transfer with Small Language Models [27.454582992694974]
  任意のテキストスタイル転送(TST)手法を提案する。 提案手法であるPrompt-and-Rerankは,TSTタスクの数学的定式化に基づいている。 実験的に,本手法は,小規模な事前学習型言語モデルに対して,最先端の大規模モデルと同等の動作を可能にする。
  論文  参考訳（メタデータ） (2022-05-23T17:57:15Z)
• VAE based Text Style Transfer with Pivot Words Enhancement Learning [5.717913255287939]
  本稿では,VT-STOWER法(PivOt Words Enhancement leaRning)を用いたVAEベースのテキストスタイル転送を提案する。 本稿では,特定のスタイルで決定的な単語を学習するためのピボット・ワード・ラーニングを紹介する。 提案したVT-STOWERは、新しいフレキシブルなスタイルの強度制御機構により、異なるTSTシナリオにスケールすることができる。
  論文  参考訳（メタデータ） (2021-12-06T16:41:26Z)
• Transductive Learning for Unsupervised Text Style Transfer [60.65782243927698]
  教師なしスタイル転送モデルは、主に帰納的学習アプローチに基づいている。 本稿では,検索に基づく文脈認識スタイルの表現に基づく新しいトランスダクティブ学習手法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T08:57:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。