論文の概要: Zero-Shot Dialogue State Tracking via Cross-Task Transfer
- arxiv url: http://arxiv.org/abs/2109.04655v1
- Date: Fri, 10 Sep 2021 03:57:56 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-13 13:34:38.933521
- Title: Zero-Shot Dialogue State Tracking via Cross-Task Transfer
- Title(参考訳): クロスタスク転送によるゼロショット対話状態追跡
- Authors: Zhaojiang Lin, Bing Liu, Andrea Madotto, Seungwhan Moon, Paul Crook,
Zhenpeng Zhou, Zhiguang Wang, Zhou Yu, Eunjoon Cho, Rajen Subba, Pascale Fung
- Abstract要約: 我々は,ゼロショット対話状態追跡タスクに対して,一般質問応答(QA)コーパスからテキストクロスタスク知識を転送することを提案する。
具体的には,抽出QAと複数選択QAをシームレスに組み合わせた転送可能な生成QAモデルであるTransferQAを提案する。
さらに,否定的質問サンプリングと文脈トランケーションという,解決不可能な質問を構築するための2つの効果的な方法を紹介した。
- 参考スコア(独自算出の注目度): 69.70718906395182
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Zero-shot transfer learning for dialogue state tracking (DST) enables us to
handle a variety of task-oriented dialogue domains without the expense of
collecting in-domain data. In this work, we propose to transfer the
\textit{cross-task} knowledge from general question answering (QA) corpora for
the zero-shot DST task. Specifically, we propose TransferQA, a transferable
generative QA model that seamlessly combines extractive QA and multi-choice QA
via a text-to-text transformer framework, and tracks both categorical slots and
non-categorical slots in DST. In addition, we introduce two effective ways to
construct unanswerable questions, namely, negative question sampling and
context truncation, which enable our model to handle "none" value slots in the
zero-shot DST setting. The extensive experiments show that our approaches
substantially improve the existing zero-shot and few-shot results on MultiWoz.
Moreover, compared to the fully trained baseline on the Schema-Guided Dialogue
dataset, our approach shows better generalization ability in unseen domains.
- Abstract(参考訳): 対話状態追跡のためのゼロショット転送学習(dst)により、ドメイン内データを収集することなく様々なタスク指向対話ドメインを処理できる。
本研究では、ゼロショットDSTタスクに対して、一般質問応答(QA)コーパスから「textit{cross-task}」知識を転送することを提案する。
具体的には、テキスト・テキスト・トランスフォーマー・フレームワークを介して抽出QAと複数選択QAをシームレスに組み合わせ、DST内のカテゴリスロットと非カテゴリスロットの両方をトラックする転送可能な生成QAモデルであるTransferQAを提案する。
さらに,ゼロショットdst設定において,モデルが"none"値スロットを処理することが可能な,否定的質問サンプリングとコンテキスト切断という2つの効果的な質問生成方法を導入する。
広範な実験により,マルチウォズにおける既存のゼロショットと少数ショットの結果を大幅に改善した。
さらに,Schema-Guided Dialogueデータセットの完全トレーニングベースラインと比較して,未確認領域の一般化能力が向上した。
関連論文リスト
- A Zero-Shot Open-Vocabulary Pipeline for Dialogue Understanding [0.0]
ドメイン分類と状態追跡(DST)をひとつのパイプラインに統合するゼロショットオープン語彙システムを提案する。
我々のアプローチには、より能力の低いモデルに対する質問応答タスクとしてDSTを再構成し、より適応可能なモデルに自己修正プロンプトを採用することが含まれる。
論文 参考訳(メタデータ) (2024-09-24T08:33:41Z) - UNO-DST: Leveraging Unlabelled Data in Zero-Shot Dialogue State Tracking [54.51316566989655]
従来のゼロショット対話状態追跡(DST)手法は、対象領域における非競合データを無視して、転送学習のみを適用した。
我々は,ゼロショットDSTを,ジョイントおよび自己学習手法による非ラベルデータを利用して,少数ショットDSTに変換する。
ゼロショットシナリオにおける汎用言語モデルに対する本手法の有効性を実証し、MultiWOZの全ドメインで平均的な共同ゴール精度を8%向上する。
論文 参考訳(メタデータ) (2023-10-16T15:16:16Z) - Divide, Conquer, and Combine: Mixture of Semantic-Independent Experts
for Zero-Shot Dialogue State Tracking [83.40120598637665]
対話状態追跡(DST)のためのゼロショット転送学習は、ドメイン内のデータを収集するコストを伴わずに、様々なタスク指向の対話ドメインを扱うのに役立つ。
既存の研究は主に一般化を強化するために、一般的なデータまたはモデルレベルの拡張方法を研究する。
我々は、見られているデータのセマンティクスを明示的に切り離す、単純で効果的な「分割、征服、結合」ソリューションを提案する。
論文 参考訳(メタデータ) (2023-06-01T08:21:20Z) - Choice Fusion as Knowledge for Zero-Shot Dialogue State Tracking [5.691339955497443]
ゼロショットの対話状態トラッキング(DST)は、望ましいドメインをトレーニングすることなく、タスク指向の対話におけるユーザの要求を追跡する。
ドメインに依存しないQAデータセットに基づいて訓練し、ゼロショット対話状態生成のための知識としてスロット値の候補選択を直接利用するCoFunDSTを提案する。
提案手法は,MultiWOZ 2.1 における既存のゼロショット DST アプローチと比較して,精度が向上する。
論文 参考訳(メタデータ) (2023-02-25T07:32:04Z) - In-Context Learning for Few-Shot Dialogue State Tracking [55.91832381893181]
In-context (IC) Learning framework for few-shot dialogue state tracking (DST)を提案する。
大規模な事前訓練言語モデル(LM)は、テストインスタンスといくつかの注釈付き例を入力として取り、パラメータの更新なしに直接対話状態をデコードする。
これにより、LMは、新しいドメインやシナリオに適応する際の、以前の数ショットのDST作業と比べて、より柔軟でスケーラブルになります。
論文 参考訳(メタデータ) (2022-03-16T11:58:24Z) - Leveraging Slot Descriptions for Zero-Shot Cross-Domain Dialogue State
Tracking [50.04597636485369]
ゼロショットクロスドメイン状態追跡(DST)により、ドメイン内のデータを収集することなく、未確認領域でのタスク指向対話を処理できる。
ゼロショットクロスドメインDSTのためのスロット記述拡張生成手法を提案する。
論文 参考訳(メタデータ) (2021-05-10T09:34:01Z) - Zero-shot Generalization in Dialog State Tracking through Generative
Question Answering [10.81203437307028]
本稿では,タスク指向ダイアログの制約やスロットに対する自然言語クエリをサポートする新しいフレームワークを提案する。
本手法は,英語文に事前学習した条件付きドメインモデルを用いた生成的質問応答に基づく。
論文 参考訳(メタデータ) (2021-01-20T21:47:20Z) - Improving Limited Labeled Dialogue State Tracking with Self-Supervision [91.68515201803986]
既存の対話状態追跡(DST)モデルには多くのラベル付きデータが必要である。
本稿では,潜在的一貫性の維持と対話行動のモデル化という,自己指導型の2つの目的について検討する。
提案する自己教師型信号は,1%のラベル付きデータのみを使用する場合,関節ゴール精度を8.95%向上させることができる。
論文 参考訳(メタデータ) (2020-10-26T21:57:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。