論文の概要: Transductive Learning for Unsupervised Text Style Transfer
- arxiv url: http://arxiv.org/abs/2109.07812v1
- Date: Thu, 16 Sep 2021 08:57:20 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-17 23:40:33.875871
- Title: Transductive Learning for Unsupervised Text Style Transfer
- Title(参考訳): 教師なしテキスト転送のためのトランスダクティブ学習
- Authors: Fei Xiao, Liang Pang, Yanyan Lan, Yan Wang, Huawei Shen and Xueqi
Cheng
- Abstract要約: 教師なしスタイル転送モデルは、主に帰納的学習アプローチに基づいている。
本稿では,検索に基づく文脈認識スタイルの表現に基づく新しいトランスダクティブ学習手法を提案する。
- 参考スコア(独自算出の注目度): 60.65782243927698
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unsupervised style transfer models are mainly based on an inductive learning
approach, which represents the style as embeddings, decoder parameters, or
discriminator parameters and directly applies these general rules to the test
cases. However, the lacking of parallel corpus hinders the ability of these
inductive learning methods on this task. As a result, it is likely to cause
severe inconsistent style expressions, like `the salad is rude`. To tackle this
problem, we propose a novel transductive learning approach in this paper, based
on a retrieval-based context-aware style representation. Specifically, an
attentional encoder-decoder with a retriever framework is utilized. It involves
top-K relevant sentences in the target style in the transfer process. In this
way, we can learn a context-aware style embedding to alleviate the above
inconsistency problem. In this paper, both sparse (BM25) and dense retrieval
functions (MIPS) are used, and two objective functions are designed to
facilitate joint learning. Experimental results show that our method
outperforms several strong baselines. The proposed transductive learning
approach is general and effective to the task of unsupervised style transfer,
and we will apply it to the other two typical methods in the future.
- Abstract(参考訳): 教師なしスタイル転送モデルは、主に埋め込み、デコーダパラメータ、または判別パラメータとしてスタイルを表現し、これらの一般的なルールをテストケースに直接適用する帰納的学習アプローチに基づいている。
しかし、並列コーパスの欠如は、これらの帰納的学習方法の能力を妨げている。
結果として、『サラダは失礼である』など、厳格な一貫性のないスタイル表現を引き起こす可能性がある。
この問題に対処するために,検索に基づく文脈認識スタイルの表現に基づく新しいトランスダクティブ学習手法を提案する。
具体的には、レトリバーフレームワークを備えた注目エンコーダデコーダを用いる。
転送プロセスにおいて、ターゲットスタイルの上位Kの関連文を含む。
このようにして、上記の矛盾問題を緩和するためにコンテキスト認識スタイルの埋め込みを学ぶことができる。
本稿では,スパース関数 (BM25) と高密度検索関数 (MIPS) の両方を用い,共同学習を容易にするために2つの目的関数を設計する。
実験の結果,本手法は複数のベースラインよりも優れていた。
提案するトランスダクティブ学習手法は,教師なしスタイル転送の課題に対して汎用的で効果的であり,将来,他の2つの典型的な手法に適用する。
関連論文リスト
- Advancing Prompt Learning through an External Layer [24.77977865016954]
本稿では,新しい外部層(EnLa)を備えたEnPromptというパラダイムを提案する。
学習可能な外部レイヤは、トレーニング済みのCLIPの有効な埋め込みに基づいて構築される。
4つの実験により,本手法が既存の即時学習法より優れていることが示された。
論文 参考訳(メタデータ) (2024-07-29T03:30:09Z) - SETTP: Style Extraction and Tunable Inference via Dual-level Transferable Prompt Learning [22.04285529067442]
デュアルレベルトランスファーブル・プロンプト学習によるスタイル抽出とチューナブル推論を提案する。
SETTPは、高リソーススタイル転送から基本スタイルの特徴を含むソーススタイルレベルのプロンプトを学習する。
実験によると、SETTPは最先端の手法に匹敵するパフォーマンスを達成するためにデータボリュームの1/20しか必要としない。
論文 参考訳(メタデータ) (2024-07-22T11:34:48Z) - A Unified Arbitrary Style Transfer Framework via Adaptive Contrastive
Learning [84.8813842101747]
Unified Contrastive Arbitrary Style Transfer (UCAST)は、新しいスタイルの学習・伝達フレームワークである。
入力依存温度を導入することで,スタイル伝達のための適応型コントラスト学習方式を提案する。
本フレームワークは,スタイル表現とスタイル伝達のための並列コントラスト学習方式,スタイル分布を効果的に学習するためのドメイン拡張モジュール,スタイル伝達のための生成ネットワークという,3つの重要なコンポーネントから構成される。
論文 参考訳(メタデータ) (2023-03-09T04:35:00Z) - Learning from Bootstrapping and Stepwise Reinforcement Reward: A
Semi-Supervised Framework for Text Style Transfer [30.622772801446132]
テキストスタイル転送のための半教師付きフレームワークを提案する。
まず、擬似並列ペアを自動構築し、教師付きで学習プロセスをブートストラップする。
そして、モデルは強化報酬を通じてラベルなしのデータから学習する。
論文 参考訳(メタデータ) (2022-05-19T05:18:06Z) - Gradient-guided Unsupervised Text Style Transfer via Contrastive
Learning [6.799826701166569]
そこで本研究では,テキストスタイル転送のためのコントラストパラダイムによる勾配誘導モデルを提案し,類似した意味文を明示的に収集する。
2つのデータセットの実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2022-01-23T12:45:00Z) - Contrastive Instruction-Trajectory Learning for Vision-Language
Navigation [66.16980504844233]
視覚言語ナビゲーション(VLN)タスクでは、エージェントが自然言語の指示でターゲットに到達する必要がある。
先行研究は、命令-軌道対間の類似点と相違点を識別できず、サブ命令の時間的連続性を無視する。
本稿では、類似したデータサンプル間の分散と、異なるデータサンプル間の分散を探索し、ロバストなナビゲーションのための独特な表現を学習するContrastive Instruction-Trajectory Learningフレームワークを提案する。
論文 参考訳(メタデータ) (2021-12-08T06:32:52Z) - Visual Transformer for Task-aware Active Learning [49.903358393660724]
プールベースのアクティブラーニングのための新しいパイプラインを提案する。
提案手法は,学習中に使用可能なアンラベリング例を利用して,ラベル付き例との相関関係を推定する。
ビジュアルトランスフォーマーは、ラベル付き例と非ラベル付き例の間の非ローカルビジュアル概念依存性をモデル化する。
論文 参考訳(メタデータ) (2021-06-07T17:13:59Z) - Aligning Pretraining for Detection via Object-Level Contrastive Learning [57.845286545603415]
画像レベルのコントラスト表現学習は、伝達学習の汎用モデルとして非常に有効であることが証明されている。
我々は、これは準最適である可能性があり、従って、自己教師付きプレテキストタスクと下流タスクのアライメントを促進する設計原則を提唱する。
Selective Object Contrastive Learning (SoCo) と呼ばれる本手法は,COCO検出における伝達性能の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-04T17:59:52Z) - On Learning Text Style Transfer with Direct Rewards [101.97136885111037]
平行コーパスの欠如により、テキストスタイルの転送タスクの教師付きモデルを直接訓練することは不可能である。
我々は、当初、微調整されたニューラルマシン翻訳モデルに使用されていた意味的類似度指標を活用している。
我々のモデルは、強いベースラインに対する自動評価と人的評価の両方において大きな利益をもたらす。
論文 参考訳(メタデータ) (2020-10-24T04:30:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。