論文の概要: A Student-Teacher Architecture for Dialog Domain Adaptation under the
Meta-Learning Setting
- arxiv url: http://arxiv.org/abs/2104.02689v1
- Date: Tue, 6 Apr 2021 17:31:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-07 14:23:18.931819
- Title: A Student-Teacher Architecture for Dialog Domain Adaptation under the
Meta-Learning Setting
- Title(参考訳): メタ学習環境下での対話ドメイン適応のための学生教師アーキテクチャ
- Authors: Kun Qian, Wei Wei, Zhou Yu
- Abstract要約: データ駆動ダイアログモデルを構築する際に、異なるドメインに効率的に適応できるアルゴリズムを開発することが不可欠である。
本稿ではメタ教師モデルを含むドメイン適応型タスク指向対話システムモデルを提案する。
MultiWOZとGoogle-Guided Dialogueの2つのマルチドメインデータセットでモデルを評価し、最先端のパフォーマンスを実現します。
- 参考スコア(独自算出の注目度): 42.80034363734555
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Numerous new dialog domains are being created every day while collecting data
for these domains is extremely costly since it involves human interactions.
Therefore, it is essential to develop algorithms that can adapt to different
domains efficiently when building data-driven dialog models. The most recent
researches on domain adaption focus on giving the model a better
initialization, rather than optimizing the adaptation process. We propose an
efficient domain adaptive task-oriented dialog system model, which incorporates
a meta-teacher model to emphasize the different impacts between generated
tokens with respect to the context. We first train our base dialog model and
meta-teacher model adversarially in a meta-learning setting on rich-resource
domains. The meta-teacher learns to quantify the importance of tokens under
different contexts across different domains. During adaptation, the
meta-teacher guides the dialog model to focus on important tokens in order to
achieve better adaptation efficiency. We evaluate our model on two multi-domain
datasets, MultiWOZ and Google Schema-Guided Dialogue, and achieve
state-of-the-art performance.
- Abstract(参考訳): これらのドメインのデータを集めながら、毎日多くの新しいダイアログドメインが作成されています。
したがって、データ駆動ダイアログモデルを構築する際に、異なるドメインに効率的に適応できるアルゴリズムを開発することが不可欠である。
ドメイン適応に関する最近の研究は、適応プロセスを最適化するのではなく、モデルにより良い初期化を与えることに重点を置いている。
本稿では,メタ教師モデルを取り入れた効率的なドメイン適応型タスク指向対話システムモデルを提案する。
まず、リッチリソースドメインのメタ学習環境において、ベースダイアログモデルとメタ教師モデルを逆向きにトレーニングする。
メタ教師は異なるドメインの異なるコンテキスト下でトークンの重要性を定量化する。
適応の間、メタ教師はダイアログモデルを指導し、より適応効率を達成するために重要なトークンに焦点を当てる。
我々は,MultiWOZとGoogle Schema-Guided Dialogueという2つのマルチドメインデータセット上でモデルを評価し,最先端のパフォーマンスを実現する。
関連論文リスト
- A Unified Data Augmentation Framework for Low-Resource Multi-Domain Dialogue Generation [52.0964459842176]
現在の最先端の対話システムは、広範なトレーニングデータセットに大きく依存している。
我々はtextbfAMD$2$G と呼ばれる textbfMulti-textbfDomain textbfDialogue textbfGeneration のための新しいデータ textbfAugmentation フレームワークを提案する。
AMD$2$Gフレームワークは、データ拡張プロセスと、ドメインに依存しないトレーニングとドメイン適応トレーニングという2段階のトレーニングアプローチで構成されている。
論文 参考訳(メタデータ) (2024-06-14T09:52:27Z) - Schema Graph-Guided Prompt for Multi-Domain Dialogue State Tracking [16.955887768832046]
対話スキーマを組み込んでドメイン固有のプロンプトを学習するグラフベースのフレームワークを提案する。
具体的には、グラフニューラルネットワークによって符号化されたドメイン固有スキーマを事前訓練された言語モデルに組み込む。
本実験は,提案手法が他のマルチドメインDST手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-10T19:00:02Z) - Manual-Guided Dialogue for Flexible Conversational Agents [84.46598430403886]
対話データを効率的に構築し、利用する方法や、さまざまなドメインにモデルを大規模にデプロイする方法は、タスク指向の対話システムを構築する上で重要な問題である。
エージェントは対話とマニュアルの両方からタスクを学習する。
提案手法は,詳細なドメインオントロジーに対する対話モデルの依存性を低減し,様々なドメインへの適応をより柔軟にする。
論文 参考訳(メタデータ) (2022-08-16T08:21:12Z) - Domain Adaptation in Dialogue Systems using Transfer and Meta-Learning [12.64591916699374]
現在の生成ベースの対話システムは、少量のターゲットデータしか利用できない場合、新しい未知のドメインに適応できない。
トランスファーとメタラーニングを組み合わせることにより,未知の領域に適応する手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T16:16:57Z) - Meta-Context Transformers for Domain-Specific Response Generation [4.377737808397113]
本稿では,ドメイン固有属性の強化による対話応答生成のためのトランスフォーマーベースモデルDSRNetを提案する。
ドメイン固有応答生成のためのマルチターンマルチインターロケータ環境におけるDSRNetの利用について検討する。
BLEUと意味的類似性(BertScore)が向上したマルチターン対話システムに対して,本モデルでは高い精度向上を実現した。
論文 参考訳(メタデータ) (2020-10-12T09:49:27Z) - Meta Dialogue Policy Learning [58.045067703675095]
我々は、ドメイン間の共有可能な低レベル信号を利用するために、Deep Transferable Q-Network (DTQN)を提案する。
状態と行動表現空間をこれらの低レベル成分に対応する特徴部分空間に分解する。
実験において,本モデルは,成功率と対話効率の両方の観点から,ベースラインモデルより優れている。
論文 参考訳(メタデータ) (2020-06-03T23:53:06Z) - Dynamic Fusion Network for Multi-Domain End-to-end Task-Oriented Dialog [70.79442700890843]
本稿では,対象ドメインと各ドメインの関連性を自動的に活用する新しい動的核融合ネットワーク(DF-Net)を提案する。
トレーニングデータが少ないと、平均13.9%の事前最良モデルを上回り、転送可能性を示す。
論文 参考訳(メタデータ) (2020-04-23T08:17:22Z) - Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation [59.174903564894954]
本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
論文 参考訳(メタデータ) (2020-01-23T15:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。