論文の概要: Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation
- arxiv url: http://arxiv.org/abs/2001.08604v3
- Date: Wed, 7 Oct 2020 01:39:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-07 10:12:34.262169
- Title: Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation
- Title(参考訳): 対話状態追跡データ拡張のための変分階層ダイアログ自動エンコーダ
- Authors: Kang Min Yoo, Hanbit Lee, Franck Dernoncourt, Trung Bui, Walter Chang,
Sang-goo Lee
- Abstract要約: 本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
- 参考スコア(独自算出の注目度): 59.174903564894954
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent works have shown that generative data augmentation, where synthetic
samples generated from deep generative models complement the training dataset,
benefit NLP tasks. In this work, we extend this approach to the task of dialog
state tracking for goal-oriented dialogs. Due to the inherent hierarchical
structure of goal-oriented dialogs over utterances and related annotations, the
deep generative model must be capable of capturing the coherence among
different hierarchies and types of dialog features. We propose the Variational
Hierarchical Dialog Autoencoder (VHDA) for modeling the complete aspects of
goal-oriented dialogs, including linguistic features and underlying structured
annotations, namely speaker information, dialog acts, and goals. The proposed
architecture is designed to model each aspect of goal-oriented dialogs using
inter-connected latent variables and learns to generate coherent goal-oriented
dialogs from the latent spaces. To overcome training issues that arise from
training complex variational models, we propose appropriate training
strategies. Experiments on various dialog datasets show that our model improves
the downstream dialog trackers' robustness via generative data augmentation. We
also discover additional benefits of our unified approach to modeling
goal-oriented dialogs: dialog response generation and user simulation, where
our model outperforms previous strong baselines.
- Abstract(参考訳): 近年の研究では、深層生成モデルから生成された合成サンプルがトレーニングデータセットを補完し、NLPタスクに役立てることが示されている。
本稿では,このアプローチを目標指向ダイアログの対話状態追跡タスクに拡張する。
発話および関連アノテーションに対するゴール指向ダイアログの固有の階層構造のため、深い生成モデルは、異なる階層と種類のダイアログ特徴間のコヒーレンスをキャプチャできなければならない。
本稿では,話者情報,対話行動,目標など,言語的特徴を含む目標指向ダイアログの完全な側面をモデル化するための変分階層ダイアログオートエンコーダ(vhda)を提案する。
提案アーキテクチャは,相互接続型潜在変数を用いて目的指向ダイアログの各側面をモデル化し,潜在空間からコヒーレントな目標指向ダイアログを生成する。
複雑な変分モデルの訓練から生じるトレーニング問題を克服するために,適切なトレーニング戦略を提案する。
各種ダイアログデータセットを用いた実験により,提案モデルが下流のダイアログトラッカの頑健性を改善したことを示す。
また,対話応答生成やユーザシミュレーションといった,目標指向のダイアログをモデル化するための統一的なアプローチのメリットも発見しています。
関連論文リスト
- Contextual Data Augmentation for Task-Oriented Dialog Systems [8.085645180329417]
本研究では,ユーザターンを生成する新しいダイアログ拡張モデルを構築し,完全なダイアログコンテキストを条件づける。
言語モデルの新しいプロンプト設計と出力の再ランク付けにより、我々のモデルから生成されたダイアログを直接使用して、下流ダイアログシステムのトレーニングを行うことができる。
論文 参考訳(メタデータ) (2023-10-16T13:22:34Z) - CTRLStruct: Dialogue Structure Learning for Open-Domain Response
Generation [38.60073402817218]
十分に構造化されたトピックフローは、バックグラウンド情報を活用し、将来のトピックを予測することで、制御可能で説明可能な応答を生成する。
本稿では,話題レベルの対話クラスタを効果的に探索する対話構造学習のための新しいフレームワークを提案する。
2つの人気のあるオープンドメイン対話データセットの実験は、優れた対話モデルと比較して、我々のモデルはより一貫性のある応答を生成できることを示している。
論文 参考訳(メタデータ) (2023-03-02T09:27:11Z) - SPACE-3: Unified Dialog Model Pre-training for Task-Oriented Dialog
Understanding and Generation [123.37377363355363]
SPACE-3は、大規模対話コーパスから学習する、新しい半教師付き会話モデルである。
幅広いダウンストリームダイアログタスクを効果的に微調整できる。
その結果、SPACE-3は8つの下流ダイアログベンチマークで最先端のパフォーマンスを達成することがわかった。
論文 参考訳(メタデータ) (2022-09-14T14:17:57Z) - DialogZoo: Large-Scale Dialog-Oriented Task Learning [52.18193690394549]
我々は,多種多様な対話課題を解くための統合基盤モデルの構築を目指している。
この目的を達成するために、73の公開データセットから、まず大規模なラベル付き対話データセットを収集する。
論文 参考訳(メタデータ) (2022-05-25T11:17:16Z) - GALAXY: A Generative Pre-trained Model for Task-Oriented Dialog with
Semi-Supervised Learning and Explicit Policy Injection [36.77204909711832]
本稿では,限定ラベル付きダイアログと大規模未ラベルダイアログコーパスから,対話ポリシーを明示的に学習する,事前学習型ダイアログモデルを提案する。
具体的には、事前学習中にポリシー最適化のためのダイアログアクト予測タスクを導入し、一貫性の規則化項を用いて、学習した表現を洗練させる。
その結果,GALAXYはタスク指向対話システムの性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2021-11-29T15:24:36Z) - Discovering Dialog Structure Graph for Open-Domain Dialog Generation [51.29286279366361]
chitchat corporaの対話構造を無監督で発見します。
次に、下流システムでのダイアログ生成を容易にするために利用します。
本稿では,グラフニューラルネットワーク(DVAE-GNN)を用いた離散変分自動エンコーダを提案する。
論文 参考訳(メタデータ) (2020-12-31T10:58:37Z) - Modeling Long Context for Task-Oriented Dialogue State Generation [51.044300192906995]
本稿では,シンプルで効果的な発話タグ付け手法と双方向言語モデルを用いたマルチタスク学習モデルを提案する。
提案手法は,入力対話コンテキストシーケンスが長い場合に,ベースラインの性能が著しく低下する,という問題を解決する。
本実験では,MultiWOZ 2.0データセットにおいて,ベースラインに対して7.03%の相対的改善を実現し,新しい最先端のジョイントゴール精度を52.04%に設定した。
論文 参考訳(メタデータ) (2020-04-29T11:02:25Z) - Paraphrase Augmented Task-Oriented Dialog Generation [68.1790912977053]
本稿では,パラフレーズモデルと応答生成モデルを協調訓練するパラフレーズ拡張応答生成(PARG)フレームワークを提案する。
また、ダイアログ状態とダイアログアクトラベルに基づいて、パラフレーズトレーニングデータセットを自動構築する手法も設計する。
論文 参考訳(メタデータ) (2020-04-16T05:12:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。