論文の概要: Schema-Guided Paradigm for Zero-Shot Dialog
- arxiv url: http://arxiv.org/abs/2106.07056v1
- Date: Sun, 13 Jun 2021 17:44:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-16 08:22:15.660214
- Title: Schema-Guided Paradigm for Zero-Shot Dialog
- Title(参考訳): ゼロショットダイアログのためのスキーマ誘導パラダイム
- Authors: Shikib Mehri, Maxine Eskenazi
- Abstract要約: 本稿では,STARコーパスのアテンションモデル(SAM)とスキーマ表現の改善について紹介する。
SAMはゼロショット設定が大幅に改善され、前の作業よりも+22のF1スコアが向上した。
その結果, ダイアログにおけるゼロショット一般化の可能性が検証された。
- 参考スコア(独自算出の注目度): 9.822870889029115
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Developing mechanisms that flexibly adapt dialog systems to unseen tasks and
domains is a major challenge in dialog research. Neural models implicitly
memorize task-specific dialog policies from the training data. We posit that
this implicit memorization has precluded zero-shot transfer learning. To this
end, we leverage the schema-guided paradigm, wherein the task-specific dialog
policy is explicitly provided to the model. We introduce the Schema Attention
Model (SAM) and improved schema representations for the STAR corpus. SAM
obtains significant improvement in zero-shot settings, with a +22 F1 score
improvement over prior work. These results validate the feasibility of
zero-shot generalizability in dialog. Ablation experiments are also presented
to demonstrate the efficacy of SAM.
- Abstract(参考訳): 課題や領域に柔軟に対応可能な対話システムを開発することはダイアログ研究の大きな課題である。
ニューラルネットワークは、トレーニングデータからタスク固有のダイアログポリシを暗黙的に記憶する。
この暗黙記憶はゼロショット転送学習を妨げていると仮定する。
この目的のために我々は,タスク固有のダイアログポリシをモデルに明示的に提供する,スキーマ誘導パラダイムを活用している。
本稿では,Schema Attention Model (SAM)を導入し,STARコーパスのスキーマ表現を改善した。
SAMはゼロショット設定が大幅に改善され、前の作業よりも+22のF1スコアが向上した。
これらの結果は,ダイアログにおけるゼロショット一般化の可能性を検証する。
SAMの有効性を示すためのアブレーション実験も提示されている。
関連論文リスト
- AlignSAM: Aligning Segment Anything Model to Open Context via Reinforcement Learning [61.666973416903005]
Segment Anything Model (SAM)は、オープンワールドシナリオにおいて、プロンプトのガイダンスによって、その印象的な一般化機能を実証した。
オープンコンテキストにSAMをアライメントするための自動プロンプトのための新しいフレームワークAlignSAMを提案する。
論文 参考訳(メタデータ) (2024-06-01T16:21:39Z) - Zero-Shot Generalizable End-to-End Task-Oriented Dialog System using
Context Summarization and Domain Schema [2.7178968279054936]
タスク指向対話システムにおける最先端のアプローチは、条件付きシーケンス生成タスクとして問題を定式化する。
これは、新しいドメインまたはタスクごとにラベル付きトレーニングデータを必要とする。
本稿では,ZS-ToDという,Zero-Shotの汎用的なエンドツーエンドタスク指向ダイアログシステムについて紹介する。
論文 参考訳(メタデータ) (2023-03-28T18:56:31Z) - DIONYSUS: A Pre-trained Model for Low-Resource Dialogue Summarization [127.714919036388]
DIONYSUSは、任意の新しいドメインでの対話を要約するための訓練済みエンコーダデコーダモデルである。
実験の結果,DIONYSUSは6つのデータセット上で既存の手法よりも優れていた。
論文 参考訳(メタデータ) (2022-12-20T06:21:21Z) - SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for
Task-Oriented Dialog Understanding [68.94808536012371]
本稿では,限定ラベル付きダイアログと大規模未ラベルダイアログコーパスから対話表現を学習する,木構造付き事前学習会話モデルを提案する。
提案手法は,7つのデータセットと4つの一般的な対話理解タスクからなるDialoGLUEベンチマークにおいて,最新の結果が得られる。
論文 参考訳(メタデータ) (2022-09-14T13:42:50Z) - GODEL: Large-Scale Pre-Training for Goal-Directed Dialog [119.1397031992088]
ダイアログのための大規模事前学習言語モデルであるGODELを紹介する。
GODELは、数ショットの微調整設定で、最先端の事前訓練ダイアログモデルより優れていることを示す。
評価手法の新たな特徴は,応答の有用性を評価するユーティリティの概念の導入である。
論文 参考訳(メタデータ) (2022-06-22T18:19:32Z) - Representation Learning for Conversational Data using Discourse Mutual
Information Maximization [9.017156603976915]
構造を意識しない単語・バイ・ワード生成は効果的な会話モデリングには適さないと我々は主張する。
対話表現モデルの学習のための構造認識型相互情報に基づく損失関数DMIを提案する。
本モデルでは,対話評価タスクであるDailyDialog++において,ランダムな負のシナリオと逆のシナリオの両方において,最も有望な性能を示す。
論文 参考訳(メタデータ) (2021-12-04T13:17:07Z) - GALAXY: A Generative Pre-trained Model for Task-Oriented Dialog with
Semi-Supervised Learning and Explicit Policy Injection [36.77204909711832]
本稿では,限定ラベル付きダイアログと大規模未ラベルダイアログコーパスから,対話ポリシーを明示的に学習する,事前学習型ダイアログモデルを提案する。
具体的には、事前学習中にポリシー最適化のためのダイアログアクト予測タスクを導入し、一貫性の規則化項を用いて、学習した表現を洗練させる。
その結果,GALAXYはタスク指向対話システムの性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2021-11-29T15:24:36Z) - Learning an Effective Context-Response Matching Model with
Self-Supervised Tasks for Retrieval-based Dialogues [88.73739515457116]
我々は,次のセッション予測,発話復元,不整合検出,一貫性判定を含む4つの自己教師型タスクを導入する。
我々はPLMに基づく応答選択モデルとこれらの補助タスクをマルチタスク方式で共同で訓練する。
実験結果から,提案した補助的自己教師型タスクは,多ターン応答選択において大きな改善をもたらすことが示された。
論文 参考訳(メタデータ) (2020-09-14T08:44:46Z) - Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation [59.174903564894954]
本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
論文 参考訳(メタデータ) (2020-01-23T15:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。