論文の概要: Precognition in Task-oriented Dialogue Understanding: Posterior
Regularization by Future Context
- arxiv url: http://arxiv.org/abs/2203.03244v1
- Date: Mon, 7 Mar 2022 09:58:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-08 16:21:23.862744
- Title: Precognition in Task-oriented Dialogue Understanding: Posterior
Regularization by Future Context
- Title(参考訳): タスク指向対話理解における事前認識:将来の文脈による後部正規化
- Authors: Nan Su, Yuchi Zhang, Chao Liu, Bingzhu Du, Yongliang Wang
- Abstract要約: 本稿では,後続正則化手法を用いて,歴史的・将来の情報を共同でモデル化することを提案する。
これらの間のKL距離を最適化し、トレーニング中にモデルを正規化します。
2つの対話データセットの実験により,提案手法の有効性が検証された。
- 参考スコア(独自算出の注目度): 8.59600111891194
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Task-oriented dialogue systems have become overwhelmingly popular in recent
researches. Dialogue understanding is widely used to comprehend users' intent,
emotion and dialogue state in task-oriented dialogue systems. Most previous
works on such discriminative tasks only models current query or historical
conversations. Even if in some work the entire dialogue flow was modeled, it is
not suitable for the real-world task-oriented conversations as the future
contexts are not visible in such cases. In this paper, we propose to jointly
model historical and future information through the posterior regularization
method. More specifically, by modeling the current utterance and past contexts
as prior, and the entire dialogue flow as posterior, we optimize the KL
distance between these distributions to regularize our model during training.
And only historical information is used for inference. Extensive experiments on
two dialogue datasets validate the effectiveness of our proposed method,
achieving superior results compared with all baseline models.
- Abstract(参考訳): 近年,タスク指向対話システムが圧倒的に普及している。
対話理解はタスク指向対話システムにおけるユーザの意図、感情、対話状態を理解するために広く使われている。
これまでのほとんどの作業は、現在のクエリや歴史的な会話をモデル化するだけである。
たとえ対話フロー全体がモデル化されたとしても、将来のコンテキストがこのようなケースでは見えないため、実際のタスク指向の会話には適さない。
本稿では, 後続正則化手法を用いて, 過去の情報と将来の情報を共同でモデル化することを提案する。
具体的には、現在の発話と過去の文脈を事前としてモデル化し、対話の流れ全体を後方として、これらの分布間のKL距離を最適化し、トレーニング中にモデルを規則化する。
そして、推論には歴史的情報のみを使用する。
2つの対話データセットに関する広範囲な実験により,提案手法の有効性を検証し,すべてのベースラインモデルと比較して優れた結果を得た。
関連論文リスト
- Unsupervised Extraction of Dialogue Policies from Conversations [3.102576158218633]
本稿では,データセットから対話ポリシーを抽出する上で,Large Language Modelがいかに有効かを示す。
そこで我々は,制御可能かつ解釈可能なグラフベースの手法を用いて対話ポリシーを生成する新しい手法を提案する。
論文 参考訳(メタデータ) (2024-06-21T14:57:25Z) - FutureTOD: Teaching Future Knowledge to Pre-trained Language Model for
Task-Oriented Dialogue [20.79359173822053]
本稿では,対話前学習モデルFutureTODを提案する。
我々の直感は、良い対話表現はどちらも局所的な文脈情報を学び、将来の情報を予測することである。
論文 参考訳(メタデータ) (2023-06-17T10:40:07Z) - Pre-training Multi-party Dialogue Models with Latent Discourse Inference [85.9683181507206]
我々は、多人数対話の会話構造、すなわち、各発話が応答する相手を理解するモデルを事前訓練する。
ラベル付きデータを完全に活用するために,談話構造を潜在変数として扱い,それらを共同で推論し,談話認識モデルを事前学習することを提案する。
論文 参考訳(メタデータ) (2023-05-24T14:06:27Z) - DialoGen: Generalized Long-Range Context Representation for Dialogue
Systems [36.23733762476647]
一般化された文脈表現を持つ対話生成のための新しいフレームワークであるDialoGenを提案する。
提案手法が対話生成(オープンドメイン)と理解(DST)の両方に与える影響について検討する。
論文 参考訳(メタデータ) (2022-10-12T15:05:28Z) - GODEL: Large-Scale Pre-Training for Goal-Directed Dialog [119.1397031992088]
ダイアログのための大規模事前学習言語モデルであるGODELを紹介する。
GODELは、数ショットの微調整設定で、最先端の事前訓練ダイアログモデルより優れていることを示す。
評価手法の新たな特徴は,応答の有用性を評価するユーティリティの概念の導入である。
論文 参考訳(メタデータ) (2022-06-22T18:19:32Z) - Back to the Future: Bidirectional Information Decoupling Network for
Multi-turn Dialogue Modeling [80.51094098799736]
ユニバーサル対話エンコーダとして双方向情報デカップリングネットワーク(BiDeN)を提案する。
BiDeNは過去と将来の両方のコンテキストを明示的に取り入れており、幅広い対話関連のタスクに一般化することができる。
異なる下流タスクのデータセットに対する実験結果は、我々のBiDeNの普遍性と有効性を示している。
論文 参考訳(メタデータ) (2022-04-18T03:51:46Z) - "How Robust r u?": Evaluating Task-Oriented Dialogue Systems on Spoken
Conversations [87.95711406978157]
本研究は、音声タスク指向会話における新しいベンチマークを示す。
マルチドメイン対話状態追跡と知識基底型対話モデルについて検討する。
我々のデータセットは,タスク指向対話システムの音声によるベンチマークを可能にする。
論文 参考訳(メタデータ) (2021-09-28T04:51:04Z) - Learning Reasoning Paths over Semantic Graphs for Video-grounded
Dialogues [73.04906599884868]
対話文脈(PDC)における推論経路の新しい枠組みを提案する。
PDCモデルは、各質問と回答の語彙成分に基づいて構築されたセマンティックグラフを通じて、対話間の情報フローを発見する。
本モデルでは,この推論経路を通じて視覚情報とテキスト情報を逐次的に処理し,提案する特徴を用いて回答を生成する。
論文 参考訳(メタデータ) (2021-03-01T07:39:26Z) - Ranking Enhanced Dialogue Generation [77.8321855074999]
対話履歴を効果的に活用する方法は、マルチターン対話生成において重要な問題である。
これまでの研究は通常、歴史をモデル化するために様々なニューラルネットワークアーキテクチャを使用していた。
本稿では,ランキング拡張対話生成フレームワークを提案する。
論文 参考訳(メタデータ) (2020-08-13T01:49:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。