論文の概要: Learning to Retrieve Entity-Aware Knowledge and Generate Responses with
Copy Mechanism for Task-Oriented Dialogue Systems
- arxiv url: http://arxiv.org/abs/2012.11937v1
- Date: Tue, 22 Dec 2020 11:36:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-26 07:50:30.901567
- Title: Learning to Retrieve Entity-Aware Knowledge and Generate Responses with
Copy Mechanism for Task-Oriented Dialogue Systems
- Title(参考訳): タスク指向対話システムのためのコピー機構を用いたエンティティ認識知識の学習と応答生成
- Authors: Chao-Hong Tan, Xiaoyu Yang, Zi'ou Zheng, Tianda Li, Yufei Feng,
Jia-Chen Gu, Quan Liu, Dan Liu, Zhen-Hua Ling, Xiaodan Zhu
- Abstract要約: 第9回対話システム技術チャレンジ(DSTC 9)のトラック1として非構造化知識アクセスを用いたタスク指向対話型モデリング
この課題は,(1)知識探索ターン検出,(2)知識選択,(3)知識接地応答生成の3つのサブタスクに分けることができる。
我々は、異なるサブタスクのベースエンコーダとして、事前訓練された言語モデルELECTRAとRoBERTaを使用します。
- 参考スコア(独自算出の注目度): 43.57597820119909
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Task-oriented conversational modeling with unstructured knowledge access, as
track 1 of the 9th Dialogue System Technology Challenges (DSTC 9), requests to
build a system to generate response given dialogue history and knowledge
access. This challenge can be separated into three subtasks, (1)
knowledge-seeking turn detection, (2) knowledge selection, and (3)
knowledge-grounded response generation. We use pre-trained language models,
ELECTRA and RoBERTa, as our base encoder for different subtasks. For subtask 1
and 2, the coarse-grained information like domain and entity are used to
enhance knowledge usage. For subtask 3, we use a latent variable to encode
dialog history and selected knowledge better and generate responses combined
with copy mechanism. Meanwhile, some useful post-processing strategies are
performed on the model's final output to make further knowledge usage in the
generation task. As shown in released evaluation results, our proposed system
ranks second under objective metrics and ranks fourth under human metrics.
- Abstract(参考訳): 第9回対話システム技術チャレンジ(DSTC 9)のトラック1のように、非構造化知識アクセスによるタスク指向の会話モデリングは、与えられた対話履歴と知識アクセスを生成するシステムを構築することを要求する。
この課題は,(1)知識探索ターン検出,(2)知識選択,(3)知識接地応答生成の3つのサブタスクに分けることができる。
我々は、異なるサブタスクのベースエンコーダとして、事前訓練された言語モデルELECTRAとRoBERTaを使用します。
サブタスク1と2では、ドメインやエンティティといった粗い粒度情報を使用して知識使用量を高める。
サブタスク3では、ダイアログ履歴と選択した知識をより良くエンコードするために潜在変数を使用し、コピー機構と組み合わせた応答を生成します。
一方、モデルの最終出力で有用な後処理戦略が実行され、生成タスクでさらなる知識使用が可能になる。
得られた評価結果に示すように,提案システムは客観的指標より2位,人的指標より4位である。
関連論文リスト
- Task Oriented Conversational Modelling With Subjective Knowledge [0.0]
DSTC-11は、ターン検出、知識選択、応答生成を求める知識からなる3段階パイプラインを提案する。
本稿では,正確で高速な知識検索を実現するエンティティ検索手法を提案する。
予備的な結果から,知識選択作業における一致点の精度は4%向上した。
論文 参考訳(メタデータ) (2023-03-30T20:23:49Z) - KPT: Keyword-guided Pre-training for Grounded Dialog Generation [82.68787152707455]
KPT(Guided Pre-Training)は,グラウンドドダイアログ生成のための自己教師付き事前学習手法である。
具体的には、事前訓練された言語モデルを用いて、ダイアログ内の最も不確実なトークンをキーワードとして抽出する。
我々は,対話行為,知識グラフ,ペルソナ記述,ウィキペディアの文節など,数発の知識ベース生成タスクについて広範な実験を行った。
論文 参考訳(メタデータ) (2022-12-04T04:05:01Z) - Dynamically Retrieving Knowledge via Query Generation for informative
dialogue response [7.196104022425989]
DRKQG (emphDynamically Retrieving Knowledge via Query Generation for informative dialogue response) という知識駆動型対話システムを設計する。
まず、時間認識機構を用いてコンテキスト情報をキャプチャし、知識を検索するためのクエリを生成する。
そこで我々は,応答生成モジュールがコンテキストから派生した応答を生成し,検索した知識を生成できるコピー機構とトランスフォーマーを統合した。
論文 参考訳(メタデータ) (2022-07-30T03:05:43Z) - Multimodal Dialog Systems with Dual Knowledge-enhanced Generative Pretrained Language Model [63.461030694700014]
マルチモーダルなタスク指向対話システム(DKMD)のための新しい二元的知識強化型事前学習言語モデルを提案する。
提案したDKMDは,2つの知識選択,2つの知識強調型文脈学習,知識強調型応答生成という3つの重要なコンポーネントから構成される。
パブリックデータセットの実験は、最先端の競合相手よりも提案されたDKMDの優位性を検証する。
論文 参考訳(メタデータ) (2022-07-16T13:02:54Z) - KETOD: Knowledge-Enriched Task-Oriented Dialogue [77.59814785157877]
対話システム研究における既存の研究は、主にタスク指向の対話とチャットを独立したドメインとして扱う。
本研究では,タスク指向対話と知識ベースチップチャットを一つのモデルに効果的に統合する方法について検討する。
論文 参考訳(メタデータ) (2022-05-11T16:01:03Z) - Knowledge-Grounded Dialogue Generation with a Unified Knowledge
Representation [78.85622982191522]
既存のシステムは、トレーニングデータでカバーされる限られたトピックのために、目に見えないトピックでうまく機能しない。
本稿では,異なる知識源を均質化した言語モデルであるPLUGについて述べる。
完全に教師された設定の下で最先端のメソッドと同等のパフォーマンスを達成することができる。
論文 参考訳(メタデータ) (2021-12-15T07:11:02Z) - GKS: Graph-based Knowledge Selector for Task-oriented Dialog System [0.688204255655161]
グラフ知識セレクタ(GKS)は、第9回対話システム技術チャレンジ(DSTC9)の知識選択に基づくデータセットで提案されたSOTAモデルより優れている
GKSは、逐次的特徴を伴わずに、言語モデルから生成された各知識の埋め込みを同時に考慮して、ダイアログにおける知識選択決定を行う。
論文 参考訳(メタデータ) (2021-12-07T14:16:26Z) - Unstructured Knowledge Access in Task-oriented Dialog Modeling using
Language Inference, Knowledge Retrieval and Knowledge-Integrative Response
Generation [44.184890645068485]
外部知識に富んだダイアログシステムは、サポートするデータベース/APIの範囲外にあるユーザクエリを処理できる。
タスク指向対話システムのパイプラインを構成するKDEAK, KnowleDgEFactor, Ens-GPTの3つのサブシステムを提案する。
実験の結果,提案パイプラインシステムはベースラインを上回り,高品質な応答を生成することがわかった。
論文 参考訳(メタデータ) (2021-01-15T11:24:32Z) - Beyond Domain APIs: Task-oriented Conversational Modeling with
Unstructured Knowledge Access [18.37585134613816]
本稿では,外的非構造的知識源を取り入れたタスク指向対話システムの拡張を提案する。
我々は,知識探索ターン検出,知識選択,知識接地応答生成という3つのサブタスクを定義した。
我々はMultiWOZ 2.1の拡張版を紹介した。
論文 参考訳(メタデータ) (2020-06-05T16:12:18Z) - Sequential Latent Knowledge Selection for Knowledge-Grounded Dialogue [51.513276162736844]
この問題に対する最初のアプローチとして,逐次潜在変数モデルを提案する。
シーケンシャル・ナレッジ・トランスフォーマー (SKT) という名前のモデルは、知識よりも先行と後続の分布を追跡することができる。
論文 参考訳(メタデータ) (2020-02-18T11:59:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。