論文の概要: A Zero-Shot Open-Vocabulary Pipeline for Dialogue Understanding

• arxiv url: http://arxiv.org/abs/2409.15861v2
• Date: Wed, 08 Jan 2025 17:41:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-09 14:54:14.076689
• Title: A Zero-Shot Open-Vocabulary Pipeline for Dialogue Understanding
• Title（参考訳）: 対話理解のためのゼロショットオープン語彙パイプライン
• Authors: Abdulfattah Safa, Gözde Gül Şahin,
• Abstract要約: ドメイン分類と状態追跡(DST)をひとつのパイプラインに統合するゼロショットオープン語彙システムを提案する。 我々のアプローチには、より能力の低いモデルに対する質問応答タスクとしてDSTを再構成し、より適応可能なモデルに自己修正プロンプトを採用することが含まれる。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Dialogue State Tracking (DST) is crucial for understanding user needs and executing appropriate system actions in task-oriented dialogues. Majority of existing DST methods are designed to work within predefined ontologies and assume the availability of gold domain labels, struggling with adapting to new slots values. While Large Language Models (LLMs)-based systems show promising zero-shot DST performance, they either require extensive computational resources or they underperform existing fully-trained systems, limiting their practicality. To address these limitations, we propose a zero-shot, open-vocabulary system that integrates domain classification and DST in a single pipeline. Our approach includes reformulating DST as a question-answering task for less capable models and employing self-refining prompts for more adaptable ones. Our system does not rely on fixed slot values defined in the ontology allowing the system to adapt dynamically. We compare our approach with existing SOTA, and show that it provides up to 20% better Joint Goal Accuracy (JGA) over previous methods on datasets like Multi-WOZ 2.1, with up to 90% fewer requests to the LLM API.
• Abstract（参考訳）: 対話状態追跡(DST)は、ユーザニーズを理解し、タスク指向の対話において適切なシステムアクションを実行するために重要である。 既存のDSTメソッドの大部分は、事前に定義されたオントロジー内で動作し、新しいスロット値に適応するのに苦労しながら、ゴールドドメインラベルの可用性を前提に設計されている。 LLM(Large Language Models)ベースのシステムでは、ゼロショットDSTのパフォーマンスが期待できるが、計算資源が広いか、既存の完全に訓練されたシステムの性能が劣っているため、実用性が制限される。 これらの制約に対処するために、ドメイン分類とDSTを単一のパイプラインに統合したゼロショットでオープンな語彙システムを提案する。 我々のアプローチには、より能力の低いモデルに対する質問応答タスクとしてDSTを再構成し、より適応可能なモデルに自己修正プロンプトを採用することが含まれる。 我々のシステムはオントロジーで定義された固定スロット値に頼らず、システムが動的に適応できるようにする。 我々のアプローチを既存のSOTAと比較し、Multi-WOZ 2.1のようなデータセットの以前の手法よりも最大20%優れたジョイントゴール精度(JGA)を提供し、LLM APIに対するリクエストを最大90%削減することを示した。

関連論文リスト

• Q-SFT: Q-Learning for Language Models via Supervised Fine-Tuning [62.984693936073974]
  価値に基づく強化学習は、幅広いマルチターン問題に対する効果的なポリシーを学ぶことができる。 現在の値ベースのRL法は、特に大規模な言語モデルの設定にスケールすることが困難であることが証明されている。 本稿では,これらの欠点に対処する新しいオフラインRLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-11-07T21:36:52Z)
• UNO-DST: Leveraging Unlabelled Data in Zero-Shot Dialogue State Tracking [54.51316566989655]
  従来のゼロショット対話状態追跡(DST)手法は、対象領域における非競合データを無視して、転送学習のみを適用した。 我々は,ゼロショットDSTを,ジョイントおよび自己学習手法による非ラベルデータを利用して,少数ショットDSTに変換する。 ゼロショットシナリオにおける汎用言語モデルに対する本手法の有効性を実証し、MultiWOZの全ドメインで平均的な共同ゴール精度を8%向上する。
  論文  参考訳（メタデータ） (2023-10-16T15:16:16Z)
• Task-Optimized Adapters for an End-to-End Task-Oriented Dialogue System [0.0]
  本稿では,タスク毎に個別に学習し,事前学習したネットワークの固定層に少数のパラメータを追加するタスク・ド・アダプタを用いたエンドツーエンドTODシステムを提案する。 提案手法はモデルに依存しない手法であり,プロンプトを使わずに入力データのみをプロンプトチューニングする必要がない。
  論文  参考訳（メタデータ） (2023-05-04T00:17:49Z)
• Choice Fusion as Knowledge for Zero-Shot Dialogue State Tracking [5.691339955497443]
  ゼロショットの対話状態トラッキング(DST)は、望ましいドメインをトレーニングすることなく、タスク指向の対話におけるユーザの要求を追跡する。 ドメインに依存しないQAデータセットに基づいて訓練し、ゼロショット対話状態生成のための知識としてスロット値の候補選択を直接利用するCoFunDSTを提案する。 提案手法は,MultiWOZ 2.1 における既存のゼロショット DST アプローチと比較して,精度が向上する。
  論文  参考訳（メタデータ） (2023-02-25T07:32:04Z)
• Prompt Learning for Few-Shot Dialogue State Tracking [75.50701890035154]
  本稿では,限られたラベル付きデータを用いて,対話状態追跡(DST)モデルを効率的に学習する方法に焦点を当てる。 本稿では,2つの主要なコンポーネントである値ベースプロンプトと逆プロンプト機構からなる,数ショットDSTのためのプロンプト学習フレームワークを設計する。 実験により、我々のモデルは未確認のスロットを生成し、既存の最先端の数ショット法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-01-15T07:37:33Z)
• Zero-Shot Dialogue State Tracking via Cross-Task Transfer [69.70718906395182]
  我々は,ゼロショット対話状態追跡タスクに対して,一般質問応答(QA)コーパスからテキストクロスタスク知識を転送することを提案する。 具体的には,抽出QAと複数選択QAをシームレスに組み合わせた転送可能な生成QAモデルであるTransferQAを提案する。 さらに,否定的質問サンプリングと文脈トランケーションという,解決不可能な質問を構築するための2つの効果的な方法を紹介した。
  論文  参考訳（メタデータ） (2021-09-10T03:57:56Z)
• Zero-shot Generalization in Dialog State Tracking through Generative Question Answering [10.81203437307028]
  本稿では,タスク指向ダイアログの制約やスロットに対する自然言語クエリをサポートする新しいフレームワークを提案する。 本手法は,英語文に事前学習した条件付きドメインモデルを用いた生成的質問応答に基づく。
  論文  参考訳（メタデータ） (2021-01-20T21:47:20Z)
• Few Shot Dialogue State Tracking using Meta-learning [3.6292310166028403]
  対話状態追跡(dst)は、ホテル、タクシー予約、観光情報など特定の目的のために設計された自動化システムのコアコンポーネントを形成する。 このようなシステムを新しいドメインにデプロイする必要性が高まっているため、ゼロ/フェーショットDSTの問題を解決する必要がある。 提案するメタラーナーは基礎モデルに依存しないため,既存のDSTシステムはトレーニング戦略を用いて未知領域の性能を向上させることができる。
  論文  参考訳（メタデータ） (2021-01-17T20:47:06Z)
• Few-shot Natural Language Generation for Task-Oriented Dialog [113.07438787659859]
  FewShotWozは,タスク指向対話システムにおける数ショットの学習設定をシミュレートする最初の NLG ベンチマークである。 我々は, SC-GPTモデルを開発し, その制御可能な生成能力を得るために, 注釈付きNLGコーパスの大規模なセットで事前学習を行った。 FewShotWozとMulti-Domain-WOZデータセットの実験は、提案したSC-GPTが既存の手法を大幅に上回っていることを示している。
  論文  参考訳（メタデータ） (2020-02-27T18:48:33Z)
• Non-Autoregressive Dialog State Tracking [122.2328875457225]
  非自己回帰的対話状態追跡(NADST)の新しい枠組みを提案する。 NADSTはドメインとスロット間の潜在的な依存関係を分解し、分離されたスロットではなく完全なセットとして対話状態の予測を改善するためにモデルを最適化する。 以上の結果から,MultiWOZ 2.1コーパス上の全領域にわたる最先端の接合精度が得られた。
  論文  参考訳（メタデータ） (2020-02-19T06:39:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。