論文の概要: Generating Relevant and Coherent Dialogue Responses using Self-separated
Conditional Variational AutoEncoders
- arxiv url: http://arxiv.org/abs/2106.03410v1
- Date: Mon, 7 Jun 2021 08:19:31 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-08 18:14:52.550084
- Title: Generating Relevant and Coherent Dialogue Responses using Self-separated
Conditional Variational AutoEncoders
- Title(参考訳): 自己分離条件付き変分オートエンコーダを用いた関連性とコヒーレントな対話応答の生成
- Authors: Bin Sun, Shaoxiong Feng, Yiwei Li, Jiamou Liu, Kan Li
- Abstract要約: 条件変分自動エンコーダ (CVAE) は, オープンエンド対話生成タスクにおける応答の多様性と情報伝達性を効果的に向上させる。
本稿では,自己分離型条件変分オートエンコーダ(SepaCVAE)を提案する。
SepaCVAEは、入力データをグループに積極的に分割し、データペアと異なるグループとの絶対差を広げる。
- 参考スコア(独自算出の注目度): 10.910845951559388
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conditional Variational AutoEncoder (CVAE) effectively increases the
diversity and informativeness of responses in open-ended dialogue generation
tasks through enriching the context vector with sampled latent variables.
However, due to the inherent one-to-many and many-to-one phenomena in human
dialogues, the sampled latent variables may not correctly reflect the contexts'
semantics, leading to irrelevant and incoherent generated responses. To resolve
this problem, we propose Self-separated Conditional Variational AutoEncoder
(abbreviated as SepaCVAE) that introduces group information to regularize the
latent variables, which enhances CVAE by improving the responses' relevance and
coherence while maintaining their diversity and informativeness. SepaCVAE
actively divides the input data into groups, and then widens the absolute
difference between data pairs from distinct groups, while narrowing the
relative distance between data pairs in the same group. Empirical results from
automatic evaluation and detailed analysis demonstrate that SepaCVAE can
significantly boost responses in well-established open-domain dialogue
datasets.
- Abstract(参考訳): 条件変分自動エンコーダ (CVAE) は, 文脈ベクトルを潜時変数で拡張することにより, オープンエンド対話生成タスクにおける応答の多様性と情報伝達性を効果的に向上させる。
しかし、人間の対話に固有の1対1の現象のため、サンプルされた潜在変数は文脈の意味を正しく反映せず、無関係で一貫性のない応答に繋がる可能性がある。
そこで本研究では,潜在変数を正規化するグループ情報を導入する自己分離型条件変動オートエンコーダ(sepacvae)を提案する。
SepaCVAEは、入力データをグループに積極的に分割し、同じグループ内のデータペア間の相対距離を狭めながら、異なるグループからデータペア間の絶対差を広げる。
自動評価と詳細な分析の結果から、sepacvaeは確立されたオープンドメイン対話データセットにおいて、応答を著しく促進できることが示されている。
関連論文リスト
- Long-Span Question-Answering: Automatic Question Generation and QA-System Ranking via Side-by-Side Evaluation [65.16137964758612]
大規模言語モデルにおける長文文の活用について検討し,本書全体の読解データを作成する。
我々の目的は、長いテキストの詳細な理解を必要とする問題を分析し、理解し、推論するLLMの能力をテストすることである。
論文 参考訳(メタデータ) (2024-05-31T20:15:10Z) - Diverse and Faithful Knowledge-Grounded Dialogue Generation via
Sequential Posterior Inference [82.28542500317445]
本稿では,知識の選択と対話生成が可能な,逐次後推論(Sequential Posterior Inference, SPI)と呼ばれるエンドツーエンド学習フレームワークを提案する。
他の方法とは異なり、SPIは推論ネットワークを必要とせず、後部分布の単純な幾何学を仮定する。
論文 参考訳(メタデータ) (2023-06-01T21:23:13Z) - Evaluating Open-Domain Dialogues in Latent Space with Next Sentence
Prediction and Mutual Information [18.859159491548006]
オープンドメイン対話のための新しい学習ベース自動評価指標(CMN)を提案する。
条件付き変分オートエンコーダ(CVAE)をNext Sentence Prediction(NSP)の対象とし,相互情報(MI)を用いて潜在空間におけるテキストの意味的類似性をモデル化する。
2つのオープンドメイン対話データセットの実験結果は、幅広いベースラインと比較して、我々の手法の優位性を示している。
論文 参考訳(メタデータ) (2023-05-26T14:21:54Z) - Towards Diverse, Relevant and Coherent Open-Domain Dialogue Generation
via Hybrid Latent Variables [20.66743177460193]
連続潜伏変数と離散潜伏変数の両方の利点を組み合わせて、ハイブリッド潜伏変数(HLV)法を提案する。
HLVは、離散潜伏変数を通して応答のグローバルな意味を制約し、連続潜伏変数で応答を豊かにする。
さらに, HLV と変換器を併用して対話生成を行うための条件付きハイブリッド変分変換器 (CHVT) を提案する。
論文 参考訳(メタデータ) (2022-12-02T12:48:01Z) - Counterfactual Data Augmentation via Perspective Transition for
Open-Domain Dialogues [34.78482218571574]
本稿では,異なるセマンティクスによる高品質な応答を自動的に拡張するデータ拡張手法を提案する。
実験結果から,データ拡張手法は対話履歴の異なるセマンティクスで高品質な応答を増強し,複数の下流タスクにおいて競合的ベースラインを上回り得ることが示された。
論文 参考訳(メタデータ) (2022-10-30T13:26:49Z) - Incorporating Casual Analysis into Diversified and Logical Response
Generation [14.4586344491264]
条件変分オートエンコーダ(CVAE)モデルは、従来のSeq2Seqモデルよりも多様な応答を生成することができる。
本稿では,メディエータが関連する情報を保持することを予測し,メディエータを自動回帰的に生成プロセスに組み込むことを提案する。
論文 参考訳(メタデータ) (2022-09-20T05:51:11Z) - DEAM: Dialogue Coherence Evaluation using AMR-based Semantic
Manipulations [46.942369532632604]
不整合データ生成のためのAMRに基づく意味操作に依存する対話評価指標を提案する。
実験の結果,DEAMは基準法と比較して,人間の判断と高い相関性が得られることがわかった。
論文 参考訳(メタデータ) (2022-03-18T03:11:35Z) - Learning an Unreferenced Metric for Online Dialogue Evaluation [53.38078951628143]
本稿では,大規模な事前学習言語モデルを用いて発話の潜在表現を抽出する非参照自動評価指標を提案する。
提案手法は,オンライン環境でのアノテーションと高い相関性を実現すると同時に,推論時に比較に真の応答を必要としないことを示す。
論文 参考訳(メタデータ) (2020-05-01T20:01:39Z) - Improve Variational Autoencoder for Text Generationwith Discrete Latent
Bottleneck [52.08901549360262]
変分オートエンコーダ(VAE)は、エンドツーエンドの表現学習において必須のツールである。
VAEは強い自己回帰デコーダで潜伏変数を無視する傾向がある。
よりコンパクトな潜在空間において暗黙的な潜在特徴マッチングを強制する原理的アプローチを提案する。
論文 参考訳(メタデータ) (2020-04-22T14:41:37Z) - On the Encoder-Decoder Incompatibility in Variational Text Modeling and
Beyond [82.18770740564642]
変分オートエンコーダ(VAE)は、潜時変数と償却変分推論を結合する。
我々は,データ多様体のパラメータ化が不十分なエンコーダ・デコーダの不整合性を観察する。
同一構造を持つ決定論的オートエンコーダとVAEモデルを結合した結合型VAEを提案する。
論文 参考訳(メタデータ) (2020-04-20T10:34:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。