論文の概要: Domain Adaptation in Dialogue Systems using Transfer and Meta-Learning
- arxiv url: http://arxiv.org/abs/2102.11146v1
- Date: Mon, 22 Feb 2021 16:16:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-23 15:03:49.295538
- Title: Domain Adaptation in Dialogue Systems using Transfer and Meta-Learning
- Title(参考訳): トランスファーとメタラーニングを用いた対話システムにおけるドメイン適応
- Authors: Rui Ribeiro, Alberto Abad and Jos\'e Lopes
- Abstract要約: 現在の生成ベースの対話システムは、少量のターゲットデータしか利用できない場合、新しい未知のドメインに適応できない。
トランスファーとメタラーニングを組み合わせることにより,未知の領域に適応する手法を提案する。
- 参考スコア(独自算出の注目度): 12.64591916699374
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Current generative-based dialogue systems are data-hungry and fail to adapt
to new unseen domains when only a small amount of target data is available.
Additionally, in real-world applications, most domains are underrepresented, so
there is a need to create a system capable of generalizing to these domains
using minimal data. In this paper, we propose a method that adapts to unseen
domains by combining both transfer and meta-learning (DATML). DATML improves
the previous state-of-the-art dialogue model, DiKTNet, by introducing a
different learning technique: meta-learning. We use Reptile, a first-order
optimization-based meta-learning algorithm as our improved training method. We
evaluated our model on the MultiWOZ dataset and outperformed DiKTNet in both
BLEU and Entity F1 scores when the same amount of data is available.
- Abstract(参考訳): 現在の生成ベースの対話システムはデータ格納型であり、少量のターゲットデータしか利用できない場合、新しい未知のドメインに適応できない。
さらに、現実世界のアプリケーションでは、ほとんどのドメインは表現が不足しているため、最小限のデータを使ってこれらのドメインに一般化できるシステムを構築する必要がある。
本稿では,トランスファーとメタラーニング(DATML)を組み合わせることで,目に見えない領域に適応する手法を提案する。
DATMLは、メタラーニングという異なる学習手法を導入することで、従来の最先端の対話モデルであるDiKTNetを改善している。
改良したトレーニング手法として,一階最適化に基づくメタラーニングアルゴリズムである reptile を用いた。
複数のWOZデータセット上のモデルを評価し、同じ量のデータが利用可能である場合にBLEUとEntity F1スコアの両方でDiKTNetを上回りました。
関連論文リスト
- Learning to Generalize Unseen Domains via Multi-Source Meta Learning for Text Classification [71.08024880298613]
テキスト分類の多元的領域一般化について検討する。
本稿では、複数の参照ドメインを使用して、未知のドメインで高い精度を達成可能なモデルをトレーニングするフレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-20T07:46:21Z) - Low Resource Style Transfer via Domain Adaptive Meta Learning [30.323491061441857]
本稿では,DAMLとATMの2つの部分からなるDAML-ATM(Domain Adaptive Meta-Learning with Adversarial Transfer Model)を提案する。
DAMLは、複数の異種ソースドメインで一般的な知識を学ぶためのドメイン適応型メタラーニングアプローチであり、少量のデータで新しい未知のドメインに適応することができる。
また,非教師付きTSTアプローチであるAdversarial Transfer Model (ATM)を提案する。
論文 参考訳(メタデータ) (2022-05-25T03:58:24Z) - Semi-supervised Meta-learning with Disentanglement for
Domain-generalised Medical Image Segmentation [15.351113774542839]
新たなセンター(ここではドメイン)からの新しいデータにモデルを一般化することは、依然として課題である。
本稿では,絡み合いを伴う半教師付きメタラーニングフレームワークを提案する。
提案手法は,異なるセグメンテーションタスクに対して頑健であり,2つの公開ベンチマーク上での最先端の一般化性能を実現する。
論文 参考訳(メタデータ) (2021-06-24T19:50:07Z) - A Student-Teacher Architecture for Dialog Domain Adaptation under the
Meta-Learning Setting [42.80034363734555]
データ駆動ダイアログモデルを構築する際に、異なるドメインに効率的に適応できるアルゴリズムを開発することが不可欠である。
本稿ではメタ教師モデルを含むドメイン適応型タスク指向対話システムモデルを提案する。
MultiWOZとGoogle-Guided Dialogueの2つのマルチドメインデータセットでモデルを評価し、最先端のパフォーマンスを実現します。
論文 参考訳(メタデータ) (2021-04-06T17:31:28Z) - Learning to Generalize Unseen Domains via Memory-based Multi-Source
Meta-Learning for Person Re-Identification [59.326456778057384]
本稿では,メモリベースのマルチソースメタラーニングフレームワークを提案する。
また,メタテスト機能を多様化するメタバッチ正規化層(MetaBN)を提案する。
実験により、M$3$Lは、目に見えない領域に対するモデルの一般化能力を効果的に向上できることが示された。
論文 参考訳(メタデータ) (2020-12-01T11:38:16Z) - Multi-Domain Spoken Language Understanding Using Domain- and Task-Aware
Parameterization [78.93669377251396]
音声言語理解は、各ドメインでトレーニングデータのセットが利用できる教師付き学習問題として対処されてきた。
既存の1つのアプローチは、ドメイン間の共同トレーニングに共有パラメータを使用して、マルチドメイン学習を行うことによって、この問題を解決する。
本稿では,ドメイン固有モデルパラメータとタスク固有モデルパラメータを用いて,この手法のパラメータ化を改善することを提案する。
論文 参考訳(メタデータ) (2020-04-30T15:15:40Z) - Dynamic Fusion Network for Multi-Domain End-to-end Task-Oriented Dialog [70.79442700890843]
本稿では,対象ドメインと各ドメインの関連性を自動的に活用する新しい動的核融合ネットワーク(DF-Net)を提案する。
トレーニングデータが少ないと、平均13.9%の事前最良モデルを上回り、転送可能性を示す。
論文 参考訳(メタデータ) (2020-04-23T08:17:22Z) - Hybrid Generative-Retrieval Transformers for Dialogue Domain Adaptation [77.62366712130196]
マルチドメイン MetaLWOz データセットに微調整した GPT-2 に基づくハイブリッド生成・検索モデル DSTC8 の高速領域適応タスクにおける入賞条件について述べる。
提案モデルでは,MetaLWOz上の解析論理をフォールバックとして使用し,人間の評価におけるSoTA(第2位システムよりも4%向上)と,未知のMultiWOZデータセットに適応した競合一般化性能を実現する。
論文 参考訳(メタデータ) (2020-03-03T18:07:42Z) - A Simple Baseline to Semi-Supervised Domain Adaptation for Machine
Translation [73.3550140511458]
State-of-the-art Neural Machine Translation (NMT)システムは、データハングリーであり、教師付きデータを持たない新しいドメインではパフォーマンスが良くない。
NMTの半教師付きドメイン適応シナリオに対する単純だが効果のあるアプローチを提案する。
このアプローチは、言語モデリング、バックトランスレーション、教師付き翻訳の3つのトレーニング目標を通じて、TransformerベースのNMTモデルを反復的にトレーニングする。
論文 参考訳(メタデータ) (2020-01-22T16:42:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。