論文の概要: Contextual Data Augmentation for Task-Oriented Dialog Systems
- arxiv url: http://arxiv.org/abs/2310.10380v1
- Date: Mon, 16 Oct 2023 13:22:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-17 14:16:05.582492
- Title: Contextual Data Augmentation for Task-Oriented Dialog Systems
- Title(参考訳): タスク指向対話システムのための文脈データ拡張
- Authors: Dustin Axman, Avik Ray, Shubham Garg, Jing Huang
- Abstract要約: 本研究では,ユーザターンを生成する新しいダイアログ拡張モデルを構築し,完全なダイアログコンテキストを条件づける。
言語モデルの新しいプロンプト設計と出力の再ランク付けにより、我々のモデルから生成されたダイアログを直接使用して、下流ダイアログシステムのトレーニングを行うことができる。
- 参考スコア(独自算出の注目度): 8.085645180329417
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Collection of annotated dialogs for training task-oriented dialog systems
have been one of the key bottlenecks in improving current models. While dialog
response generation has been widely studied on the agent side, it is not
evident if similar generative models can be used to generate a large variety
of, and often unexpected, user inputs that real dialog systems encounter in
practice. Existing data augmentation techniques such as paraphrase generation
do not take the dialog context into consideration. In this paper, we develop a
novel dialog augmentation model that generates a user turn, conditioning on
full dialog context. Additionally, with a new prompt design for language model,
and output re-ranking, the dialogs generated from our model can be directly
used to train downstream dialog systems. On common benchmark datasets MultiWoZ
and SGD, we show that our dialog augmentation model generates high quality
dialogs and improves dialog success rate by as much as $8\%$ over baseline.
- Abstract(参考訳): タスク指向ダイアログシステムのトレーニングのための注釈付きダイアログの収集は、現在のモデルを改善する上で重要なボトルネックの1つだ。
エージェント側ではダイアログ応答生成が広く研究されているが、実際のダイアログシステムが実際に遭遇する多種多様な、しばしば予期しないユーザ入力を生成するために類似した生成モデルが使用できるかどうかは明らかではない。
paraphrase生成のような既存のデータ拡張技術は、ダイアログコンテキストを考慮していない。
本稿では,ユーザ・ターンを生成する新しいダイアログ拡張モデルを開発し,フル・ダイアログ・コンテキストで条件付けを行う。
さらに、言語モデルのための新しいプロンプト設計と出力再ランキングにより、我々のモデルから生成されたダイアログは、下流のダイアログシステムをトレーニングするために直接使用できる。
一般的なベンチマークデータセットであるMultiWoZとSGDにおいて、我々のダイアログ拡張モデルは高品質なダイアログを生成し、ダイアログの成功率をベースライン上で最大8\%の値で改善することを示す。
関連論文リスト
- DEMO: Reframing Dialogue Interaction with Fine-grained Element Modeling [73.08187964426823]
大規模言語モデル (LLM) によって実現された対話システムは、人間と機械の相互作用において中心的なモードの1つとなっている。
本稿では,新しい研究課題--$textbfD$ialogue $textbfE$lement $textbfMO$delingを紹介する。
本稿では,包括的対話モデリングと評価のために設計された新しいベンチマークである$textbfDEMO$を提案する。
論文 参考訳(メタデータ) (2024-12-06T10:01:38Z) - SPACE-3: Unified Dialog Model Pre-training for Task-Oriented Dialog
Understanding and Generation [123.37377363355363]
SPACE-3は、大規模対話コーパスから学習する、新しい半教師付き会話モデルである。
幅広いダウンストリームダイアログタスクを効果的に微調整できる。
その結果、SPACE-3は8つの下流ダイアログベンチマークで最先端のパフォーマンスを達成することがわかった。
論文 参考訳(メタデータ) (2022-09-14T14:17:57Z) - GODEL: Large-Scale Pre-Training for Goal-Directed Dialog [119.1397031992088]
ダイアログのための大規模事前学習言語モデルであるGODELを紹介する。
GODELは、数ショットの微調整設定で、最先端の事前訓練ダイアログモデルより優れていることを示す。
評価手法の新たな特徴は,応答の有用性を評価するユーティリティの概念の導入である。
論文 参考訳(メタデータ) (2022-06-22T18:19:32Z) - Response Generation with Context-Aware Prompt Learning [19.340498579331555]
本稿では,対話生成問題を素早い学習課題とする,事前学習型対話モデリングのための新しい手法を提案する。
限られた対話データを微調整する代わりに、我々のアプローチであるDialogPromptは、対話コンテキストに最適化された連続的なプロンプト埋め込みを学習する。
提案手法は,微調整ベースラインと汎用的なプロンプト学習法を著しく上回っている。
論文 参考訳(メタデータ) (2021-11-04T05:40:13Z) - Modeling Text-visual Mutual Dependency for Multi-modal Dialog Generation [35.45552689723718]
実世界におけるマルチモーダルダイアログ生成の特定の事例を解決するためのフレームワークを提案する。
具体的には,テキスト・視覚的特徴間の相互依存をモデル化することを提案する。
テキストと視覚的特徴間の相互依存がモデル化されている場合、バニラモデルよりも顕著なパフォーマンス向上が観察される。
論文 参考訳(メタデータ) (2021-05-30T07:20:28Z) - Paraphrase Augmented Task-Oriented Dialog Generation [68.1790912977053]
本稿では,パラフレーズモデルと応答生成モデルを協調訓練するパラフレーズ拡張応答生成(PARG)フレームワークを提案する。
また、ダイアログ状態とダイアログアクトラベルに基づいて、パラフレーズトレーニングデータセットを自動構築する手法も設計する。
論文 参考訳(メタデータ) (2020-04-16T05:12:36Z) - Conversation Learner -- A Machine Teaching Tool for Building Dialog
Managers for Task-Oriented Dialog Systems [57.082447660944965]
Conversation Learnerは、ダイアログマネージャを構築するための機械学習ツールである。
ダイアログ作成者が慣れ親しんだツールを使ってダイアログフローを作成し、ダイアログフローをパラメトリックモデルに変換することができる。
ユーザシステムダイアログをトレーニングデータとして活用することで、ダイアログ作成者が時間とともにダイアログマネージャを改善することができる。
論文 参考訳(メタデータ) (2020-04-09T00:10:54Z) - Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation [59.174903564894954]
本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
論文 参考訳(メタデータ) (2020-01-23T15:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。