論文の概要: A Fast and Robust BERT-based Dialogue State Tracker for Schema-Guided
Dialogue Dataset
- arxiv url: http://arxiv.org/abs/2008.12335v1
- Date: Thu, 27 Aug 2020 18:51:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-24 07:17:29.439251
- Title: A Fast and Robust BERT-based Dialogue State Tracker for Schema-Guided
Dialogue Dataset
- Title(参考訳): スキーマ誘導対話データセットのための高速かつロバストなBERTベース対話状態トラッカー
- Authors: Vahid Noroozi, Yang Zhang, Evelina Bakhturina, Tomasz Kornuta
- Abstract要約: 本稿では,目標指向対話システムにおける状態追跡のための高速かつ堅牢なBERTベースモデルであるFastSGTを紹介する。
提案モデルは自然言語記述を含むGuided Dialogueデータセットのために設計されている。
本モデルでは,精度を著しく向上しつつ,計算およびメモリ消費の面で効率を保っている。
- 参考スコア(独自算出の注目度): 8.990035371365408
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dialog State Tracking (DST) is one of the most crucial modules for
goal-oriented dialogue systems. In this paper, we introduce FastSGT (Fast
Schema Guided Tracker), a fast and robust BERT-based model for state tracking
in goal-oriented dialogue systems. The proposed model is designed for the
Schema-Guided Dialogue (SGD) dataset which contains natural language
descriptions for all the entities including user intents, services, and slots.
The model incorporates two carry-over procedures for handling the extraction of
the values not explicitly mentioned in the current user utterance. It also uses
multi-head attention projections in some of the decoders to have a better
modelling of the encoder outputs. In the conducted experiments we compared
FastSGT to the baseline model for the SGD dataset. Our model keeps the
efficiency in terms of computational and memory consumption while improving the
accuracy significantly. Additionally, we present ablation studies measuring the
impact of different parts of the model on its performance. We also show the
effectiveness of data augmentation for improving the accuracy without
increasing the amount of computational resources.
- Abstract(参考訳): ダイアログ状態追跡(DST)は、ゴール指向対話システムにおいて最も重要なモジュールの1つである。
本稿では,目標指向対話システムにおける状態追跡のための高速かつ堅牢なBERTモデルであるFastSGT(Fast Schema Guided Tracker)を紹介する。
提案モデルは,ユーザ意図,サービス,スロットを含むすべてのエンティティに対する自然言語記述を含むスキーマガイド対話(SGD)データセット用に設計されている。
このモデルには、現在のユーザ発話で明示的に言及されていない値の抽出を扱うための2つの搬送手順が組み込まれている。
また、デコーダのいくつかでマルチヘッドアテンションプロジェクションを使用して、エンコーダ出力のより優れたモデリングを行う。
実験では,FastSGTをSGDデータセットのベースラインモデルと比較した。
本モデルでは,精度を著しく向上しつつ,計算およびメモリ消費の観点から効率性を維持する。
さらに,模型の異なる部位が性能に与える影響を計測するアブレーション実験を行った。
また,計算資源の量を増やすことなく精度を向上させるために,データ拡張の有効性を示す。
関連論文リスト
- Plan, Generate and Complicate: Improving Low-resource Dialogue State Tracking via Easy-to-Difficult Zero-shot Data Augmentation [5.042738414157664]
我々は,低リソースの対話状態追跡のためのZero-shot Data AugmentationフレームワークであるEDZ-DAを提案する。
また、ドメイン関係に基づいて対話を複雑化し、参照スロット追跡のためのモデルの能力を高める。
論文 参考訳(メタデータ) (2024-06-13T06:49:03Z) - TOD-Flow: Modeling the Structure of Task-Oriented Dialogues [77.15457469745364]
ダイアログを付加した対話データからTOD-Flowグラフを推定する手法を提案する。
推定されたTOD-Flowグラフは、任意の対話モデルと容易に統合することができ、予測性能、透明性、制御性を改善することができる。
論文 参考訳(メタデータ) (2023-12-07T20:06:23Z) - Injecting linguistic knowledge into BERT for Dialogue State Tracking [60.42231674887294]
本稿では,教師なしの枠組みを用いて言語知識を抽出する手法を提案する。
次に、この知識を用いて、対話状態追跡(DST)タスクにおけるBERTの性能と解釈可能性を高める。
このフレームワークを様々なDSTタスクでベンチマークし、精度の顕著な改善を観察する。
論文 参考訳(メタデータ) (2023-11-27T08:38:42Z) - Unlocking the Potential of User Feedback: Leveraging Large Language
Model as User Simulator to Enhance Dialogue System [65.93577256431125]
本稿では,ユーザガイド応答最適化 (UGRO) という代替手法を提案し,タスク指向の対話モデルと組み合わせる。
このアプローチでは、アノテーションのないユーザシミュレータとしてLLMを使用して対話応答を評価し、より小型のエンドツーエンドTODモデルと組み合わせる。
提案手法は従来のSOTA(State-of-the-art)よりも優れている。
論文 参考訳(メタデータ) (2023-06-16T13:04:56Z) - Span-Selective Linear Attention Transformers for Effective and Robust
Schema-Guided Dialogue State Tracking [7.176787451868171]
本稿では,従来の手法よりも優れた一般化と効率を実現する新しいアーキテクチャであるSPLATを紹介する。
本稿では,SGD(Guided Dialogue)とMultiWOZ(MultiWOZ)データセットにおけるモデルの有効性を示す。
論文 参考訳(メタデータ) (2023-06-15T17:59:31Z) - TLAG: An Informative Trigger and Label-Aware Knowledge Guided Model for
Dialogue-based Relation Extraction [43.98737106776455]
対話に基づく関係抽出(DRE)は、対話で言及される引数ペアの関係型を予測することを目的としている。
本稿では,トリガとラベル認識の知識をフル活用して関係抽出を導くTLAGを提案する。
DialogREデータセットの実験結果から,私たちのTLAGはベースラインモデルよりも優れています。
論文 参考訳(メタデータ) (2023-03-30T03:10:28Z) - A Multi-Task BERT Model for Schema-Guided Dialogue State Tracking [78.2700757742992]
タスク指向対話システムは対話状態追跡器(DST)を用いて会話を完了させる。
最近の最先端のDST実装は、モデルの堅牢性を改善するために様々なサービスのスキーマに依存している。
本稿では,意図予測,要求スロット予測,スロットフィリングの3つのDSTタスクを協調的に解決する単一マルチタスクBERTモデルを提案する。
論文 参考訳(メタデータ) (2022-07-02T13:27:59Z) - Prompt Learning for Few-Shot Dialogue State Tracking [75.50701890035154]
本稿では,限られたラベル付きデータを用いて,対話状態追跡(DST)モデルを効率的に学習する方法に焦点を当てる。
本稿では,2つの主要なコンポーネントである値ベースプロンプトと逆プロンプト機構からなる,数ショットDSTのためのプロンプト学習フレームワークを設計する。
実験により、我々のモデルは未確認のスロットを生成し、既存の最先端の数ショット法より優れていることが示された。
論文 参考訳(メタデータ) (2022-01-15T07:37:33Z) - SGD-QA: Fast Schema-Guided Dialogue State Tracking for Unseen Services [15.21976869687864]
質問応答アプローチに基づくスキーマガイドによる対話状態追跡モデルであるSGD-QAを提案する。
提案するマルチパスモデルは、ドメイン情報と対話発話の間で単一のエンコーダを共有する。
このモデルでは、シングルパスベースラインモデルと比較して少なくとも1.6倍の性能が向上している。
論文 参考訳(メタデータ) (2021-05-17T17:54:32Z) - Improving Limited Labeled Dialogue State Tracking with Self-Supervision [91.68515201803986]
既存の対話状態追跡(DST)モデルには多くのラベル付きデータが必要である。
本稿では,潜在的一貫性の維持と対話行動のモデル化という,自己指導型の2つの目的について検討する。
提案する自己教師型信号は,1%のラベル付きデータのみを使用する場合,関節ゴール精度を8.95%向上させることができる。
論文 参考訳(メタデータ) (2020-10-26T21:57:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。