論文の概要: InstructTODS: Large Language Models for End-to-End Task-Oriented
Dialogue Systems
- arxiv url: http://arxiv.org/abs/2310.08885v1
- Date: Fri, 13 Oct 2023 06:36:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-16 14:11:49.051705
- Title: InstructTODS: Large Language Models for End-to-End Task-Oriented
Dialogue Systems
- Title(参考訳): InstructTODS:タスク指向対話システムのための大規模言語モデル
- Authors: Willy Chung, Samuel Cahyawijaya, Bryan Wilie, Holy Lovenia, Pascale
Fung
- Abstract要約: 大規模言語モデル(LLM)は自然言語処理(NLP)における多様なタスクに使用されている。
InstructTODSは、ゼロショットのタスク指向対話システムのための新しいフレームワークである。
InstructTODSは、ユーザの意図を動的クエリにシームレスに翻訳するプロキシの信念状態を生成する。
- 参考スコア(独自算出の注目度): 60.53276524369498
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Large language models (LLMs) have been used for diverse tasks in natural
language processing (NLP), yet remain under-explored for task-oriented dialogue
systems (TODS), especially for end-to-end TODS. We present InstructTODS, a
novel off-the-shelf framework for zero-shot end-to-end task-oriented dialogue
systems that can adapt to diverse domains without fine-tuning. By leveraging
LLMs, InstructTODS generates a proxy belief state that seamlessly translates
user intentions into dynamic queries for efficient interaction with any KB. Our
extensive experiments demonstrate that InstructTODS achieves comparable
performance to fully fine-tuned TODS in guiding dialogues to successful
completion without prior knowledge or task-specific data. Furthermore, a
rigorous human evaluation of end-to-end TODS shows that InstructTODS produces
dialogue responses that notably outperform both the gold responses and the
state-of-the-art TODS in terms of helpfulness, informativeness, and humanness.
Moreover, the effectiveness of LLMs in TODS is further supported by our
comprehensive evaluations on TODS subtasks: dialogue state tracking, intent
classification, and response generation. Code and implementations could be
found here https://github.com/WillyHC22/InstructTODS/
- Abstract(参考訳): 大規模言語モデル(LLM)は自然言語処理(NLP)において様々なタスクに使われてきたが、タスク指向対話システム(TODS)、特にエンドツーエンドのTODSでは未探索のままである。
InstructTODSは、細調整なしで多様なドメインに適応できるゼロショットエンドツーエンドのタスク指向対話システムのための新しいオフザシェルフフレームワークである。
llmsを活用することでinstructtodsは、任意のkbとの効率的なインタラクションのために、ユーザの意図を動的クエリにシームレスに変換するプロキシ信念状態を生成する。
InstructTODSは、事前の知識やタスク固有のデータなしに、対話を完了まで導くことで、完全に微調整されたTODSに匹敵する性能を達成できることを示す。
さらに, エンド・ツー・エンドのTODSを厳密に評価した結果, InstructTODSは, 金の応答, 最先端のTODSの双方を, 有用性, 情報性, 人文性という点で優れる対話応答を生成することがわかった。
さらに,TODSにおけるLLMの有効性は,対話状態追跡,意図分類,応答生成といったTODSサブタスクに対する包括的評価によってさらに裏付けられている。
コードと実装はhttps://github.com/willyhc22/instructtods/にある。
関連論文リスト
- HierTOD: A Task-Oriented Dialogue System Driven by Hierarchical Goals [4.630232280155836]
タスク指向対話 (Task-Oriented Dialogue, TOD) は、自然言語による対話を通じてタスクの完了を支援するシステムである。
本稿では,階層的な目標によって駆動されるエンタープライズTODシステムであるHierTODを紹介する。
システム実装では,情報収集のためのスロットフィリングとタスク実行のためのステップバイステップガイダンスという,2つのTODパラダイムを統一する。
論文 参考訳(メタデータ) (2024-11-11T17:28:19Z) - Training Zero-Shot Generalizable End-to-End Task-Oriented Dialog System Without Turn-level Dialog Annotations [2.757798192967912]
この作業はマルチタスク命令の微調整を用いて、より効率的でスケーラブルなタスク指向対話システムを構築する。
提案手法は,アノテートされたデータに基づいて訓練された最先端モデルと,市販のChatGPTモデルから10億のパラメータを比較検討する。
論文 参考訳(メタデータ) (2024-07-21T04:52:38Z) - A Systematic Study of Performance Disparities in Multilingual
Task-Oriented Dialogue Systems [68.76102493999134]
マルチリンガルなタスク指向対話システム間に存在するタスクパフォーマンスの相違を,実証的に分析し,分析する。
我々は現在のToDシステムにおける適応と本質的バイアスの存在を証明した。
本稿では,新しい言語に対するToDデータ収集とシステム開発へのアプローチについて,実践的なヒントを提供する。
論文 参考訳(メタデータ) (2023-10-19T16:41:44Z) - Self-Explanation Prompting Improves Dialogue Understanding in Large
Language Models [52.24756457516834]
大規模言語モデル(LLM)の理解能力を高めるための新たな「自己説明(Self-Explanation)」を提案する。
このタスクに依存しないアプローチでは、タスク実行前の各対話発話を分析し、様々な対話中心のタスクのパフォーマンスを向上させる必要がある。
6つのベンチマークデータセットによる実験結果から,本手法は他のゼロショットプロンプトよりも一貫して優れており,数ショットプロンプトの有効性を超えていることが明らかとなった。
論文 参考訳(メタデータ) (2023-09-22T15:41:34Z) - DiactTOD: Learning Generalizable Latent Dialogue Acts for Controllable
Task-Oriented Dialogue Systems [15.087619144902776]
本稿では,潜在空間における対話行動を表現する対話行動モデル(DiactTOD)を提案する。
大規模なコーパスで事前トレーニングを行うと、DiactTODは対話を予測し制御し、制御可能な応答を生成する。
論文 参考訳(メタデータ) (2023-08-01T23:29:16Z) - Knowledge-Retrieval Task-Oriented Dialog Systems with Semi-Supervision [22.249113574918034]
既存のタスク指向ダイアログ(TOD)システムは、スロットと値の観点からダイアログの状態を追跡し、データベースに問い合わせて応答を生成する。
現実のアプリケーションでは,ユーザの発話がノイズが多いため,対話状態を正確に追跡し,関連する知識を正しく確保することは困難である。
そこで本研究では,TODシステムにおける知識選択を高速化する検索手法を提案する。
論文 参考訳(メタデータ) (2023-05-22T16:29:20Z) - Enhancing Task Bot Engagement with Synthesized Open-Domain Dialog [89.35658776144638]
TODとODDの両方を扱えるシステムを構築し、異なる知識ソースにアクセスすることが不可欠である。
本稿では,知識基盤のODDとTODを組み合わせた対話を自動的に生成するフレームワークを提案する。
本研究では,TODモードとODDモードを適切に適用し,異なる知識ソースにアクセス可能な統合モデルPivotBotを提案する。
論文 参考訳(メタデータ) (2022-12-20T05:51:47Z) - Multi-Task Pre-Training for Plug-and-Play Task-Oriented Dialogue System [26.837972034630003]
PPTODはタスク指向対話のための統一的なプラグアンドプレイモデルである。
エンド・ツー・エンドの対話モデル、対話状態追跡、意図分類を含む3つのベンチマークTODタスクにおいて、我々のモデルを広範囲にテストする。
論文 参考訳(メタデータ) (2021-09-29T22:02:18Z) - CINS: Comprehensive Instruction for Few-shot Learning in Task-oriented
Dialog Systems [56.302581679816775]
本稿では,タスク固有の命令でPLMを利用する包括的インストラクション(CINS)を提案する。
命令のスキーマ(定義、制約、プロンプト)と、ToDの3つの重要な下流タスクに対するカスタマイズされた実現を設計する。
これらのToDタスクに対して,小さな検証データを用いた現実的な数ショット学習シナリオで実験を行った。
論文 参考訳(メタデータ) (2021-09-10T03:23:06Z) - TOD-BERT: Pre-trained Natural Language Understanding for Task-Oriented
Dialogue [113.45485470103762]
本研究では,言語モデリングのためのタスク指向対話データセットを,人間とマルチターンの9つに統合する。
事前学習時の対話動作をモデル化するために,ユーザトークンとシステムトークンをマスク付き言語モデルに組み込む。
論文 参考訳(メタデータ) (2020-04-15T04:09:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。