論文の概要: Meta-Context Transformers for Domain-Specific Response Generation
- arxiv url: http://arxiv.org/abs/2010.05572v1
- Date: Mon, 12 Oct 2020 09:49:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-08 06:40:33.408517
- Title: Meta-Context Transformers for Domain-Specific Response Generation
- Title（参考訳）: ドメイン固有応答生成のためのメタコンテキストトランスフォーマー
- Authors: Debanjana Kar, Suranjana Samanta, Amar Prakash Azad
- Abstract要約: 本稿では,ドメイン固有属性の強化による対話応答生成のためのトランスフォーマーベースモデルDSRNetを提案する。
ドメイン固有応答生成のためのマルチターンマルチインターロケータ環境におけるDSRNetの利用について検討する。
BLEUと意味的類似性(BertScore)が向上したマルチターン対話システムに対して,本モデルでは高い精度向上を実現した。
- 参考スコア（独自算出の注目度）: 4.377737808397113
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the tremendous success of neural dialogue models in recent years, it
suffers a lack of relevance, diversity, and some times coherence in generated
responses. Lately, transformer-based models, such as GPT-2, have revolutionized
the landscape of dialogue generation by capturing the long-range structures
through language modeling. Though these models have exhibited excellent
language coherence, they often lack relevance and terms when used for
domain-specific response generation. In this paper, we present DSRNet (Domain
Specific Response Network), a transformer-based model for dialogue response
generation by reinforcing domain-specific attributes. In particular, we extract
meta attributes from context and infuse them with the context utterances for
better attention over domain-specific key terms and relevance. We study the use
of DSRNet in a multi-turn multi-interlocutor environment for domain-specific
response generation. In our experiments, we evaluate DSRNet on Ubuntu dialogue
datasets, which are mainly composed of various technical domain related
dialogues for IT domain issue resolutions and also on CamRest676 dataset, which
contains restaurant domain conversations. Trained with maximum likelihood
objective, our model shows significant improvement over the state-of-the-art
for multi-turn dialogue systems supported by better BLEU and semantic
similarity (BertScore) scores. Besides, we also observe that the responses
produced by our model carry higher relevance due to the presence of
domain-specific key attributes that exhibit better overlap with the attributes
of the context. Our analysis shows that the performance improvement is mostly
due to the infusion of key terms along with dialogues which result in better
attention over domain-relevant terms. Other contributing factors include joint
modeling of dialogue context with the domain-specific meta attributes and
topics.
- Abstract（参考訳）: 近年のニューラル対話モデルの成功にもかかわらず、その関連性、多様性、場合によっては生成した応答の一貫性の欠如に苦しむ。
近年、gpt-2のようなトランスフォーマーベースのモデルは、言語モデリングによって長距離構造を捉え、対話生成の展望に革命をもたらした。
これらのモデルは優れた言語コヒーレンスを示してきたが、ドメイン固有の応答生成に使用する場合、関連性や用語を欠いていることが多い。
本稿では,ドメイン固有属性強化による対話応答生成のためのトランスフォーマティブモデルdsrnet(domain specific response network)を提案する。
特に、コンテキストからメタ属性を抽出し、コンテキスト発話を注入し、ドメイン固有のキーワードや関連性をよりよく注目する。
ドメイン固有応答生成のためのマルチターンマルチインタロケータ環境におけるDSRNetの利用について検討する。
実験では,主にITドメインの課題解決のための技術ドメイン関連対話と,レストランドメインの会話を含むCamRest676データセットで構成されるUbuntuの対話データセット上でDSRNetを評価する。
本モデルでは, BLEUと意味的類似度(BertScore)が向上したマルチターン対話システムにおいて, 最先端の対話システムよりも大幅に向上したことを示す。
さらに、我々のモデルが生成する応答は、コンテキストの属性とのオーバーラップを示すドメイン固有のキー属性の存在により、より高い関連性をもたらすことも観察します。
分析の結果,キーワードの注入による性能向上と,ドメイン関連用語に対する注目度の向上が主な原因であることが示唆された。
その他のコントリビューション要因としては、対話コンテキストとドメイン固有のメタ属性とトピックの併用モデリングがある。
関連論文リスト
- PoE: a Panel of Experts for Generalized Automatic Dialogue Assessment [58.46761798403072]
モデルベース自動対話評価基準(ADEM)は,複数の領域にわたって良好に機能することが期待される。
大きな進歩にもかかわらず、ある領域でうまく機能するADEMは必ずしも他の領域に一般化するとは限らない。
本稿では,共有トランスフォーマーエンコーダと軽量アダプタの集合からなるPanel of Experts (PoE)ネットワークを提案する。
論文 参考訳（メタデータ） (2022-12-18T02:26:50Z) - Dialogue Term Extraction using Transfer Learning and Topological Data
Analysis [0.8185867455104834]
我々は、純粋にデータ駆動方式で対話におけるドメイン、スロット、値の認識を可能にするさまざまな機能を探究する。
各特徴セットの有用性を検討するために、広く使われているMultiWOZデータセットに基づいてシードモデルを訓練する。
提案手法は,単語の埋め込みのみに依存する従来の手法よりも優れている。
論文 参考訳（メタデータ） (2022-08-22T17:04:04Z) - Improving Multi-Party Dialogue Discourse Parsing via Domain Integration [25.805553277418813]
マルチパーティ会話は、対話的なターン間のセマンティックレベルの相関によって暗黙的に組織される。
対話談話分析は,基本談話単位間の係り受け構造と関係の予測に応用できる。
対話談話アノテーションを持つ既存のコーパスは、限られたサンプルサイズを持つ特定のドメインから収集される。
論文 参考訳（メタデータ） (2021-10-09T09:36:22Z) - Dialogue History Matters! Personalized Response Selectionin Multi-turn
Retrieval-based Chatbots [62.295373408415365]
本稿では,コンテキスト応答マッチングのためのパーソナライズドハイブリッドマッチングネットワーク(phmn)を提案する。
1) ユーザ固有の対話履歴からパーソナライズされた発話行動を付加的なマッチング情報として抽出する。
ユーザ識別による2つの大規模データセット,すなわちパーソナライズされた対話 Corpus Ubuntu (P-Ubuntu) とパーソナライズされたWeiboデータセット (P-Weibo) のモデルを評価する。
論文 参考訳（メタデータ） (2021-03-17T09:42:11Z) - Cross Copy Network for Dialogue Generation [44.593899479668416]
本稿では,現在の対話コンテキストと類似の対話インスタンスの論理構造を同時に探索する新しいネットワークアーキテクチャであるCross Copy Networks(CCN)を提案する。
裁判所の議論と顧客サービスコンテンツ生成という2つの課題による実験により,提案アルゴリズムは既存の最先端コンテンツ生成モデルよりも優れていることが示された。
論文 参考訳（メタデータ） (2020-10-22T09:03:23Z) - RiSAWOZ: A Large-Scale Multi-Domain Wizard-of-Oz Dataset with Rich
Semantic Annotations for Task-Oriented Dialogue Modeling [35.75880078666584]
RiSAWOZ は、Rich Semantic s を用いた大規模マルチドメインの Chinese Wizard-of-Oz データセットである。
11.2Kのヒューマン・ツー・ヒューマン(H2H)マルチターン・アノテート・ダイアログを含み、12ドメインにまたがる150K以上の発話がある。
論文 参考訳（メタデータ） (2020-10-17T08:18:59Z) - Meta Dialogue Policy Learning [58.045067703675095]
我々は、ドメイン間の共有可能な低レベル信号を利用するために、Deep Transferable Q-Network (DTQN)を提案する。
状態と行動表現空間をこれらの低レベル成分に対応する特徴部分空間に分解する。
実験において,本モデルは,成功率と対話効率の両方の観点から,ベースラインモデルより優れている。
論文 参考訳（メタデータ） (2020-06-03T23:53:06Z) - UniConv: A Unified Conversational Neural Architecture for Multi-domain
Task-oriented Dialogues [101.96097419995556]
ユニコンブ」はタスク指向対話におけるエンドツーエンド対話システムのための新しい統合型ニューラルネットワークである。
我々は、MultiWOZ2.1ベンチマークにおいて、対話状態追跡、コンテキスト・ツー・テキスト、エンドツーエンド設定の包括的な実験を行う。
論文 参考訳（メタデータ） (2020-04-29T16:28:22Z) - Non-Autoregressive Dialog State Tracking [122.2328875457225]
非自己回帰的対話状態追跡(NADST)の新しい枠組みを提案する。
NADSTはドメインとスロット間の潜在的な依存関係を分解し、分離されたスロットではなく完全なセットとして対話状態の予測を改善するためにモデルを最適化する。
以上の結果から,MultiWOZ 2.1コーパス上の全領域にわたる最先端の接合精度が得られた。
論文 参考訳（メタデータ） (2020-02-19T06:39:26Z) - MA-DST: Multi-Attention Based Scalable Dialog State Tracking [13.358314140896937]
ダイアログ状態追跡ダイアログは、ユーザーが目標を達成するための自然言語インターフェースを提供する。
正確なマルチドメインDSTを実現するためには、過去の発話とスロットセマンティクス間の依存関係をエンコードする必要がある。
本稿では,会話履歴とスロットの意味を符号化する新しいアーキテクチャを提案する。
論文 参考訳（メタデータ） (2020-02-07T05:34:58Z) - Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation [59.174903564894954]
本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
論文 参考訳（メタデータ） (2020-01-23T15:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。