論文の概要: Knowledge-Retrieval Task-Oriented Dialog Systems with Semi-Supervision
- arxiv url: http://arxiv.org/abs/2305.13199v1
- Date: Mon, 22 May 2023 16:29:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-23 14:28:03.486907
- Title: Knowledge-Retrieval Task-Oriented Dialog Systems with Semi-Supervision
- Title(参考訳): 半スーパービジョンを用いたナレッジリトライバルタスク指向対話システム
- Authors: Yucheng Cai, Hong Liu, Zhijian Ou, Yi Huang, Junlan Feng
- Abstract要約: 既存のタスク指向ダイアログ(TOD)システムは、スロットと値の観点からダイアログの状態を追跡し、データベースに問い合わせて応答を生成する。
現実のアプリケーションでは,ユーザの発話がノイズが多いため,対話状態を正確に追跡し,関連する知識を正しく確保することは困難である。
そこで本研究では,TODシステムにおける知識選択を高速化する検索手法を提案する。
- 参考スコア(独自算出の注目度): 22.249113574918034
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most existing task-oriented dialog (TOD) systems track dialog states in terms
of slots and values and use them to query a database to get relevant knowledge
to generate responses. In real-life applications, user utterances are noisier,
and thus it is more difficult to accurately track dialog states and correctly
secure relevant knowledge. Recently, a progress in question answering and
document-grounded dialog systems is retrieval-augmented methods with a
knowledge retriever. Inspired by such progress, we propose a retrieval-based
method to enhance knowledge selection in TOD systems, which significantly
outperforms the traditional database query method for real-life dialogs.
Further, we develop latent variable model based semi-supervised learning, which
can work with the knowledge retriever to leverage both labeled and unlabeled
dialog data. Joint Stochastic Approximation (JSA) algorithm is employed for
semi-supervised model training, and the whole system is referred to as that
JSA-KRTOD. Experiments are conducted on a real-life dataset from China Mobile
Custom-Service, called MobileCS, and show that JSA-KRTOD achieves superior
performances in both labeled-only and semi-supervised settings.
- Abstract(参考訳): 既存のタスク指向ダイアログ(tod)システムは、スロットと値の観点でダイアログ状態を追跡し、データベースに問い合わせて関連する知識を取得して応答を生成する。
実際のアプリケーションでは,ユーザの発話はノイズが多く,対話状態を正確に追跡し,関連する知識を正しく確保することは困難である。
近年,質問応答と文書地上対話システムの進歩は,知識検索機能を備えた検索強化手法である。
このような進展に触発されて,todシステムにおける知識選択能力を向上させるための検索ベース手法を提案する。
さらに,ラベル付きとラベルなしの両方のダイアログデータを活用するために,知識取得者と連携可能な,潜在変数モデルに基づく半教師付き学習を開発した。
半教師付きモデルトレーニングにはjsa(joint stochastic approximation)アルゴリズムが用いられ、システム全体をjsa-krtodと呼ぶ。
実験は、MobileCSと呼ばれる中国モバイルカスタムサービスの実生活データセット上で行われ、JSA-KRTODがラベル付きおよび半教師付き設定の両方で優れたパフォーマンスを達成することを示す。
関連論文リスト
- Training Zero-Shot Generalizable End-to-End Task-Oriented Dialog System Without Turn-level Dialog Annotations [2.757798192967912]
この作業はマルチタスク命令の微調整を用いて、より効率的でスケーラブルなタスク指向対話システムを構築する。
提案手法は,アノテートされたデータに基づいて訓練された最先端モデルと,市販のChatGPTモデルから10億のパラメータを比較検討する。
論文 参考訳(メタデータ) (2024-07-21T04:52:38Z) - InstructTODS: Large Language Models for End-to-End Task-Oriented
Dialogue Systems [60.53276524369498]
大規模言語モデル(LLM)は自然言語処理(NLP)における多様なタスクに使用されている。
InstructTODSは、ゼロショットのタスク指向対話システムのための新しいフレームワークである。
InstructTODSは、ユーザの意図を動的クエリにシームレスに翻訳するプロキシの信念状態を生成する。
論文 参考訳(メタデータ) (2023-10-13T06:36:26Z) - Leveraging Explicit Procedural Instructions for Data-Efficient Action
Prediction [5.448684866061922]
タスク指向の対話は、しばしばエージェントがユーザ要求を満たすために複雑で多段階の手順を実行する必要がある。
大規模言語モデルは、制約のある環境でこれらの対話を自動化することに成功したが、その広範な展開は、トレーニングに必要なタスク固有の大量のデータによって制限されている。
本稿では,エージェントガイドラインから導出した明示的な指示を利用して対話システムを構築するための,データ効率のよいソリューションを提案する。
論文 参考訳(メタデータ) (2023-06-06T18:42:08Z) - CGoDial: A Large-Scale Benchmark for Chinese Goal-oriented Dialog
Evaluation [75.60156479374416]
CGoDialは、Goal指向のダイアログ評価のための、新しい挑戦的で包括的な中国のベンチマークである。
96,763のダイアログセッションと574,949のダイアログがすべて含まれており、異なる知識ソースを持つ3つのデータセットをカバーする。
学術ベンチマークと音声対話のシナリオのギャップを埋めるために、実際の会話からデータを収集したり、クラウドソーシングを通じて既存のデータセットに音声機能を追加する。
論文 参考訳(メタデータ) (2022-11-21T16:21:41Z) - Q-TOD: A Query-driven Task-oriented Dialogue System [33.18698942938547]
本稿では,新しい問合せ型タスク指向対話システム,すなわちQ-TODを紹介する。
対話コンテキストから必須情報をクエリに抽出し、応答生成のための関連する知識レコードを検索する。
提案するQ-TODの有効性を評価するために,3つの公開タスク指向対話データセットに対するクエリアノテーションを収集する。
論文 参考訳(メタデータ) (2022-10-14T06:38:19Z) - SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for
Task-Oriented Dialog Understanding [68.94808536012371]
本稿では,限定ラベル付きダイアログと大規模未ラベルダイアログコーパスから対話表現を学習する,木構造付き事前学習会話モデルを提案する。
提案手法は,7つのデータセットと4つの一般的な対話理解タスクからなるDialoGLUEベンチマークにおいて,最新の結果が得られる。
論文 参考訳(メタデータ) (2022-09-14T13:42:50Z) - KETOD: Knowledge-Enriched Task-Oriented Dialogue [77.59814785157877]
対話システム研究における既存の研究は、主にタスク指向の対話とチャットを独立したドメインとして扱う。
本研究では,タスク指向対話と知識ベースチップチャットを一つのモデルに効果的に統合する方法について検討する。
論文 参考訳(メタデータ) (2022-05-11T16:01:03Z) - Retrieval-Free Knowledge-Grounded Dialogue Response Generation with
Adapters [52.725200145600624]
軽量アダプタで事前学習した言語モデルに事前知識を注入し、検索プロセスをバイパスする KnowExpert を提案する。
実験結果から,KnowExpertは検索ベースラインと相容れない性能を示した。
論文 参考訳(メタデータ) (2021-05-13T12:33:23Z) - HyKnow: End-to-End Task-Oriented Dialog Modeling with Hybrid Knowledge
Management [58.82499963373537]
ハイブリッドナレッジ管理のTODシステム「HyKnow」を提案します。
構造的知識と非構造的知識の両方を管理するための信念状態を拡張する。
この2つの知識に基づくモデリングを共同で最適化した最初のエンドツーエンドモデルである。
論文 参考訳(メタデータ) (2021-05-13T01:58:39Z) - Learning to Retrieve Entity-Aware Knowledge and Generate Responses with
Copy Mechanism for Task-Oriented Dialogue Systems [43.57597820119909]
第9回対話システム技術チャレンジ(DSTC 9)のトラック1として非構造化知識アクセスを用いたタスク指向対話型モデリング
この課題は,(1)知識探索ターン検出,(2)知識選択,(3)知識接地応答生成の3つのサブタスクに分けることができる。
我々は、異なるサブタスクのベースエンコーダとして、事前訓練された言語モデルELECTRAとRoBERTaを使用します。
論文 参考訳(メタデータ) (2020-12-22T11:36:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。