論文の概要: Spec-TOD: A Specialized Instruction-Tuned LLM Framework for Efficient Task-Oriented Dialogue Systems
- arxiv url: http://arxiv.org/abs/2507.04841v1
- Date: Mon, 07 Jul 2025 10:03:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-08 15:46:35.370652
- Title: Spec-TOD: A Specialized Instruction-Tuned LLM Framework for Efficient Task-Oriented Dialogue Systems
- Title(参考訳): Spec-TOD:効率的なタスク指向対話システムのための命令調整型LLMフレームワーク
- Authors: Quang-Vinh Nguyen, Quang-Chieu Nguyen, Hoang Pham, Khac-Hoai Nam Bui,
- Abstract要約: Spec-TODは、限られたデータでエンドツーエンドのTODシステムをトレーニングするために設計された新しいフレームワークである。
広く使われているTODベンチマークであるMultiWOZデータセットの実験は、Spec-TODが競合する結果を得ることを示した。
- 参考スコア(独自算出の注目度): 3.8748565070264758
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Task-oriented dialogue (TOD) systems facilitate goal-driven interactions between users and machines. While recent advances in deep learning have improved the performance, TOD systems often struggle in low-resource scenarios with limited labeled data. To address this challenge, we propose Spec-TOD, a novel framework designed to train an end-to-end TOD system with limited data. Spec-TOD introduces two main innovations: (i) a novel specialized end-to-end TOD framework that incorporates explicit task instructions for instruction-tuned large language models (LLMs), and (ii) an efficient training strategy that leverages lightweight, specialized LLMs to achieve strong performance with minimal supervision. Experiments on the MultiWOZ dataset, a widely used TOD benchmark, demonstrate that Spec-TOD achieves competitive results while significantly reducing the need for labeled data. These findings highlight the potential of the proposed framework in advancing efficient and effective TOD systems in low-resource settings.
- Abstract(参考訳): タスク指向対話(TOD)システムは、ユーザとマシン間の目標駆動インタラクションを促進する。
近年のディープラーニングの進歩により性能が向上しているが、TODシステムはラベル付きデータに制限のある低リソースシナリオで苦労することが多い。
この課題に対処するために,限られたデータでエンドツーエンドのTODシステムをトレーニングするための新しいフレームワークであるSpec-TODを提案する。
Spec-TODの主なイノベーションは2つある。
(i)命令調整型大規模言語モデル(LLM)のための明示的なタスク命令を組み込んだ新しいエンドツーエンドTODフレームワーク
(II)軽量で専門的なLCMを活用して、最小限の監督力で高い性能を達成する効率的なトレーニング戦略。
広く使用されているTODベンチマークであるMultiWOZデータセットの実験は、Spec-TODが競合する結果を達成すると同時に、ラベル付きデータの必要性を大幅に低減することを示した。
これらの知見は,低リソース環境における効率的なTODシステムの実現に向けたフレームワークの可能性を明らかにするものである。
関連論文リスト
- Efficient Prompting for LLM-based Generative Internet of Things [88.84327500311464]
大規模言語モデル(LLM)は、様々なタスクにおいて顕著な能力を示しており、最近、IoT(Internet of Things)アプリケーションにLLMの能力を統合することが研究の注目を集めている。
セキュリティ上の懸念から、多くの機関は最先端の商用LLMサービスへのアクセスを避け、ローカルネットワーク環境でのオープンソースLLMのデプロイと利用を必要としている。
本研究では,LLMを用いた生成IoT(Generative IoT)システムを提案する。
論文 参考訳(メタデータ) (2024-06-14T19:24:00Z) - InstructTODS: Large Language Models for End-to-End Task-Oriented
Dialogue Systems [60.53276524369498]
大規模言語モデル(LLM)は自然言語処理(NLP)における多様なタスクに使用されている。
InstructTODSは、ゼロショットのタスク指向対話システムのための新しいフレームワークである。
InstructTODSは、ユーザの意図を動的クエリにシームレスに翻訳するプロキシの信念状態を生成する。
論文 参考訳(メタデータ) (2023-10-13T06:36:26Z) - Task-Optimized Adapters for an End-to-End Task-Oriented Dialogue System [0.0]
本稿では,タスク毎に個別に学習し,事前学習したネットワークの固定層に少数のパラメータを追加するタスク・ド・アダプタを用いたエンドツーエンドTODシステムを提案する。
提案手法はモデルに依存しない手法であり,プロンプトを使わずに入力データのみをプロンプトチューニングする必要がない。
論文 参考訳(メタデータ) (2023-05-04T00:17:49Z) - CINS: Comprehensive Instruction for Few-shot Learning in Task-oriented
Dialog Systems [56.302581679816775]
本稿では,タスク固有の命令でPLMを利用する包括的インストラクション(CINS)を提案する。
命令のスキーマ(定義、制約、プロンプト)と、ToDの3つの重要な下流タスクに対するカスタマイズされた実現を設計する。
これらのToDタスクに対して,小さな検証データを用いた現実的な数ショット学習シナリオで実験を行った。
論文 参考訳(メタデータ) (2021-09-10T03:23:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。