論文の概要: Semi-Supervised Knowledge-Grounded Pre-training for Task-Oriented Dialog
Systems
- arxiv url: http://arxiv.org/abs/2210.08873v1
- Date: Mon, 17 Oct 2022 09:10:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 18:34:37.172037
- Title: Semi-Supervised Knowledge-Grounded Pre-training for Task-Oriented Dialog
Systems
- Title(参考訳): タスク指向対話システムのための半教師付き知識接地事前学習
- Authors: Weihao Zeng, Keqing He, Zechen Wang, Dayuan Fu, Guanting Dong, Ruotong
Geng, Pei Wang, Jingang Wang, Chaobo Sun, Wei Wu, Weiran Xu
- Abstract要約: 半教師付き/強化TODシステム構築における最初の課題である,SereTOD 2022 チャレンジのトラック2のモデルを提案する。
我々は,対話履歴とローカルKBを入力として定式化し,システム応答を予測するための知識基底ダイアログモデルを構築した。
また,ラベル付きデータとラベルなしデータの両方で,半教師付き事前学習を行う。
- 参考スコア(独自算出の注目度): 25.164042288343683
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advances in neural approaches greatly improve task-oriented dialogue
(TOD) systems which assist users to accomplish their goals. However, such
systems rely on costly manually labeled dialogs which are not available in
practical scenarios. In this paper, we present our models for Track 2 of the
SereTOD 2022 challenge, which is the first challenge of building
semi-supervised and reinforced TOD systems on a large-scale real-world Chinese
TOD dataset MobileCS. We build a knowledge-grounded dialog model to formulate
dialog history and local KB as input and predict the system response. And we
perform semi-supervised pre-training both on the labeled and unlabeled data.
Our system achieves the first place both in the automatic evaluation and human
interaction, especially with higher BLEU (+7.64) and Success (+13.6\%) than the
second place.
- Abstract(参考訳): ニューラルアプローチの最近の進歩は、ユーザーが目標を達成するのを助けるタスク指向対話(TOD)システムを大幅に改善している。
しかし、そのようなシステムは実用的なシナリオでは利用できないコストのかかるラベル付きダイアログに依存している。
本稿では,大規模な実世界の中国TODデータセットであるMobileCS上に半教師あり強化されたTODシステムを構築するための最初の課題である,SereTOD 2022チャレンジのトラック2のモデルを提案する。
対話履歴とローカルkbを入力として定式化し,システム応答を予測するための知識接地ダイアログモデルを構築した。
またラベル付きデータとラベルなしデータの両方で半教師付き事前学習を行う。
特にBLEU(+7.64)とSuccess(+13.6\%)が第2位より高い場合には,自動評価とヒューマンインタラクションの両方において第1位を達成する。
関連論文リスト
- Natural Language Task-Oriented Dialog System 2.0 [2.757798192967912]
タスク指向対話(TOD)システムは、ユーザとマシン間の効率的な対話を促進する上で重要な役割を果たす。
これらのシステムは従来、ダイアログ状態やポリシーアノテーションなど、手動でアノテートされたメタデータに依存していた。
本稿では,手動で注釈付けしたターンワイドデータに依存する新たなモデルである自然言語タスク指向対話システム(NL-ToD)を紹介する。
論文 参考訳(メタデータ) (2024-07-21T04:52:38Z) - Enhancing Large Language Model Induced Task-Oriented Dialogue Systems
Through Look-Forward Motivated Goals [76.69419538047813]
ProToDアプローチは、将来の対話行動を予測し、ToDシステムを強化するためにゴール指向の報酬シグナルを組み込む。
本稿では,目標駆動型対話シミュレーションに基づくToDシステム評価手法を提案する。
また,MultiWoZ 2.1データセットを用いた実験により,データの10%しか利用せず,優れた性能が得られることを示した。
論文 参考訳(メタデータ) (2023-09-16T10:56:00Z) - Enhancing Performance on Seen and Unseen Dialogue Scenarios using
Retrieval-Augmented End-to-End Task-Oriented System [89.40590076430297]
この作業により、単純なキャッシュを通じてより柔軟性のあるTODシステムが可能になる。
我々は,TOD生成中に対話履歴と検索情報の両方を参照・基盤にできるエンドツーエンドTODモデルを訓練する。
非空共同ゴール精度を6.7%向上させるなど,我々のフレームワークの優れた性能を示す実験を行った。
論文 参考訳(メタデータ) (2023-08-16T06:52:10Z) - Knowledge-Retrieval Task-Oriented Dialog Systems with Semi-Supervision [22.249113574918034]
既存のタスク指向ダイアログ(TOD)システムは、スロットと値の観点からダイアログの状態を追跡し、データベースに問い合わせて応答を生成する。
現実のアプリケーションでは,ユーザの発話がノイズが多いため,対話状態を正確に追跡し,関連する知識を正しく確保することは困難である。
そこで本研究では,TODシステムにおける知識選択を高速化する検索手法を提案する。
論文 参考訳(メタデータ) (2023-05-22T16:29:20Z) - Zero-Shot Generalizable End-to-End Task-Oriented Dialog System using
Context Summarization and Domain Schema [2.7178968279054936]
タスク指向対話システムにおける最先端のアプローチは、条件付きシーケンス生成タスクとして問題を定式化する。
これは、新しいドメインまたはタスクごとにラベル付きトレーニングデータを必要とする。
本稿では,ZS-ToDという,Zero-Shotの汎用的なエンドツーエンドタスク指向ダイアログシステムについて紹介する。
論文 参考訳(メタデータ) (2023-03-28T18:56:31Z) - KETOD: Knowledge-Enriched Task-Oriented Dialogue [77.59814785157877]
対話システム研究における既存の研究は、主にタスク指向の対話とチャットを独立したドメインとして扱う。
本研究では,タスク指向対話と知識ベースチップチャットを一つのモデルに効果的に統合する方法について検討する。
論文 参考訳(メタデータ) (2022-05-11T16:01:03Z) - Quick Starting Dialog Systems with Paraphrase Generation [0.0]
本稿では,既存の事例からより多くのデータを人工的に生成することで,対話エージェント作成のコストと労力を削減する手法を提案する。
提案手法は,人間の努力がほとんどないダイアログシステムを起動し,実際のエンドユーザーとの対話を可能にするのに十分なレベルの性能を実現する。
論文 参考訳(メタデータ) (2022-04-06T02:35:59Z) - EVA2.0: Investigating Open-Domain Chinese Dialogue Systems with
Large-Scale Pre-Training [73.98154158068134]
EVA2.0は280億のパラメータを持つ大規模な事前訓練された中国の対話モデルである。
提案するEVA2.0は,280億のパラメータを持つ,大規模で事前訓練されたオープンドメインの中国語対話モデルである。
論文 参考訳(メタデータ) (2022-03-17T13:33:17Z) - UniDS: A Unified Dialogue System for Chit-Chat and Task-oriented
Dialogues [59.499965460525694]
上記の2つのスキルを備えた統合対話システム(UniDS)を提案する。
我々は、チャットとタスク指向の対話の両方に対応可能な統合対話データスキーマを設計する。
我々は、事前訓練されたチャット対話モデルから混合対話データでUniDSを訓練する。
論文 参考訳(メタデータ) (2021-10-15T11:56:47Z) - MinTL: Minimalist Transfer Learning for Task-Oriented Dialogue Systems [75.43457658815943]
タスク指向対話システムのシステム設計プロセスを簡単にするミニマリスト変換学習(MinTL)を提案する。
MinTLはシンプルだが効果的な転送学習フレームワークであり、事前訓練されたSeq2seqモデルのプラグインと再生を可能にする。
トレーニング済みの2つのバックボーン(T5とBART)で学習フレームワークをインスタンス化し、MultiWOZで評価する。
論文 参考訳(メタデータ) (2020-09-25T02:19:13Z) - Hierarchical Context Enhanced Multi-Domain Dialogue System for
Multi-domain Task Completion [17.66372217976539]
本稿では,提案した階層型文脈拡張対話システム(HCEDS)について述べる。
本システムの主な動機は,複雑な対話を十分に理解するための階層的文脈の可能性を包括的に探求することである。
その結果,本システムは自動評価において第1位,人的評価では第2位となることがわかった。
論文 参考訳(メタデータ) (2020-03-03T05:10:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。