論文の概要: Ranking Enhanced Dialogue Generation

• arxiv url: http://arxiv.org/abs/2008.05640v1
• Date: Thu, 13 Aug 2020 01:49:56 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-30 22:21:24.689326
• Title: Ranking Enhanced Dialogue Generation
• Title（参考訳）: ランキング強化対話生成
• Authors: Changying Hao, Liang Pang, Yanyan Lan, Fei Sun, Jiafeng Guo, Xueqi Cheng
• Abstract要約: 対話履歴を効果的に活用する方法は、マルチターン対話生成において重要な問題である。 これまでの研究は通常、歴史をモデル化するために様々なニューラルネットワークアーキテクチャを使用していた。 本稿では,ランキング拡張対話生成フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 77.8321855074999
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How to effectively utilize the dialogue history is a crucial problem in multi-turn dialogue generation. Previous works usually employ various neural network architectures (e.g., recurrent neural networks, attention mechanisms, and hierarchical structures) to model the history. However, a recent empirical study by Sankar et al. has shown that these architectures lack the ability of understanding and modeling the dynamics of the dialogue history. For example, the widely used architectures are insensitive to perturbations of the dialogue history, such as words shuffling, utterances missing, and utterances reordering. To tackle this problem, we propose a Ranking Enhanced Dialogue generation framework in this paper. Despite the traditional representation encoder and response generation modules, an additional ranking module is introduced to model the ranking relation between the former utterance and consecutive utterances. Specifically, the former utterance and consecutive utterances are treated as query and corresponding documents, and both local and global ranking losses are designed in the learning process. In this way, the dynamics in the dialogue history can be explicitly captured. To evaluate our proposed models, we conduct extensive experiments on three public datasets, i.e., bAbI, PersonaChat, and JDC. Experimental results show that our models produce better responses in terms of both quantitative measures and human judgments, as compared with the state-of-the-art dialogue generation models. Furthermore, we give some detailed experimental analysis to show where and how the improvements come from.
• Abstract（参考訳）: 対話履歴の有効利用は多方向対話生成において重要な課題である。 以前の研究は通常、歴史をモデル化するために様々なニューラルネットワークアーキテクチャ(リカレントニューラルネットワーク、アテンション機構、階層構造など)を使用している。 しかし、Sankarらによる最近の実証研究は、これらのアーキテクチャは対話の歴史のダイナミクスを理解し、モデル化する能力が欠けていることを示している。 例えば、広く使われているアーキテクチャは、単語シャッフル、発話の欠如、発話の順序変更など、対話履歴の摂動に敏感である。 この問題に対処するため,本論文ではランキング拡張対話生成フレームワークを提案する。 従来の表現エンコーダと応答生成モジュールにもかかわらず、以前の発話と連続発話のランキング関係をモデル化するための追加のランキングモジュールが導入された。 具体的には、前者の発話と連続した発話をクエリおよび対応する文書として扱い、学習過程において局所的およびグローバル的ランキングロスをデザインする。 このように、対話履歴のダイナミクスを明示的にキャプチャすることができる。 提案モデルを評価するため,bAbI,PersonaChat,JDCの3つの公開データセットについて広範な実験を行った。 実験の結果, 対話生成モデルと比較して, 定量的尺度と人的判断の両方において, 反応が良好であることが判明した。 さらに、改善の出所と方法を示すための詳細な実験分析を行った。

関連論文リスト

• WavChat: A Survey of Spoken Dialogue Models [66.82775211793547]
  GPT-4oのようなシステムで実証された音声対話モデルの最近の進歩は、音声領域において大きな注目を集めている。 これらの高度な音声対話モデルは、音声、音楽、その他の音声関連の特徴を理解するだけでなく、音声のスタイリスティックな特徴や音節的な特徴も捉える。 音声対話システムの進歩にもかかわらず、これらのシステムを体系的に組織化し分析する包括的調査が欠如している。
  論文  参考訳（メタデータ） (2024-11-15T04:16:45Z)
• Attribution and Alignment: Effects of Local Context Repetition on Utterance Production and Comprehension in Dialogue [6.886248462185439]
  繰り返しは通常、言語モデル世代を評価する際に罰せられる。 人間はローカルとパートナーの特定の繰り返しを使用し、それらは人間のユーザーによって好まれ、対話におけるコミュニケーションをより成功させる。 本研究では, (a) 言語モデルが対話における人間的な繰り返しのレベルを生成するかどうか, (b) 理解中に使用する語彙再使用に関連する処理機構について検討する。
  論文  参考訳（メタデータ） (2023-11-21T23:50:33Z)
• Pre-training Multi-party Dialogue Models with Latent Discourse Inference [85.9683181507206]
  我々は、多人数対話の会話構造、すなわち、各発話が応答する相手を理解するモデルを事前訓練する。 ラベル付きデータを完全に活用するために,談話構造を潜在変数として扱い,それらを共同で推論し,談話認識モデルを事前学習することを提案する。
  論文  参考訳（メタデータ） (2023-05-24T14:06:27Z)
• Manual-Guided Dialogue for Flexible Conversational Agents [84.46598430403886]
  対話データを効率的に構築し、利用する方法や、さまざまなドメインにモデルを大規模にデプロイする方法は、タスク指向の対話システムを構築する上で重要な問題である。 エージェントは対話とマニュアルの両方からタスクを学習する。 提案手法は,詳細なドメインオントロジーに対する対話モデルの依存性を低減し,様々なドメインへの適応をより柔軟にする。
  論文  参考訳（メタデータ） (2022-08-16T08:21:12Z)
• Back to the Future: Bidirectional Information Decoupling Network for Multi-turn Dialogue Modeling [80.51094098799736]
  ユニバーサル対話エンコーダとして双方向情報デカップリングネットワーク(BiDeN)を提案する。 BiDeNは過去と将来の両方のコンテキストを明示的に取り入れており、幅広い対話関連のタスクに一般化することができる。 異なる下流タスクのデータセットに対する実験結果は、我々のBiDeNの普遍性と有効性を示している。
  論文  参考訳（メタデータ） (2022-04-18T03:51:46Z)
• Precognition in Task-oriented Dialogue Understanding: Posterior Regularization by Future Context [8.59600111891194]
  本稿では,後続正則化手法を用いて,歴史的・将来の情報を共同でモデル化することを提案する。 これらの間のKL距離を最適化し、トレーニング中にモデルを正規化します。 2つの対話データセットの実験により,提案手法の有効性が検証された。
  論文  参考訳（メタデータ） (2022-03-07T09:58:50Z)
• Modeling Coreference Relations in Visual Dialog [18.926582410644375]
  ダイアログにおけるコア参照関係の発生は、視覚的質問応答よりも難しい課題となる。 教師なしの方法でダイアログにおけるコア参照を解消するモデルの能力を改善する2つのソフト制約を提案する。
  論文  参考訳（メタデータ） (2022-03-06T15:22:24Z)
• Learning from Perturbations: Diverse and Informative Dialogue Generation with Inverse Adversarial Training [10.17868476063421]
  Inverse Adversarial Training (IAT) アルゴリズムを提案する。 IATはモデルに対話履歴の摂動に敏感であり、従って摂動から学ぶことを奨励する。 提案手法は対話履歴をモデル化し,より多様で一貫した応答を生成する。
  論文  参考訳（メタデータ） (2021-05-31T17:28:37Z)
• DialogBERT: Discourse-Aware Response Generation via Learning to Recover and Rank Utterances [18.199473005335093]
  本稿では,従来の PLM に基づく対話モデルを強化した対話応答生成モデルである DialogBERT を提案する。 発話間の談話レベルのコヒーレンスを効果的に把握するために,マスク付き発話回帰を含む2つの訓練目標を提案する。 3つのマルチターン会話データセットの実験により、我々のアプローチがベースラインを著しく上回ることを示した。
  論文  参考訳（メタデータ） (2020-12-03T09:06:23Z)
• Rethinking Dialogue State Tracking with Reasoning [76.0991910623001]
  本稿では, 対話状態の段階的追跡を, バックエンドデータの助けを借りて行うことを提案する。 実験の結果,MultiWOZ 2.1の連立信条精度は38.6%向上した。
  論文  参考訳（メタデータ） (2020-05-27T02:05:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。