論文の概要: A Static and Dynamic Attention Framework for Multi Turn Dialogue Generation

• arxiv url: http://arxiv.org/abs/2410.20766v1
• Date: Mon, 28 Oct 2024 06:05:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:18:14.952561
• Title: A Static and Dynamic Attention Framework for Multi Turn Dialogue Generation
• Title（参考訳）: マルチターン対話生成のための静的・動的注意フレームワーク
• Authors: Wei-Nan Zhang, Yiming Cui, Kaiyan Zhang, Yifa Wang, Qingfu Zhu, Lingzhi Li, Ting Liu,
• Abstract要約: オープンドメインマルチターン対話生成では,対話履歴の文脈意味論をモデル化することが不可欠である。 従来の研究は、オープンドメインマルチターン対話生成における階層的再帰エンコーダデコーダフレームワークの有効性を検証していた。 本稿では,対話履歴をモデル化し,オープンドメインのマルチターン対話応答を生成する静的かつ動的アテンションに基づくアプローチを提案する。
• 参考スコア（独自算出の注目度）: 37.79563028123686
• License:
• Abstract: Recently, research on open domain dialogue systems have attracted extensive interests of academic and industrial researchers. The goal of an open domain dialogue system is to imitate humans in conversations. Previous works on single turn conversation generation have greatly promoted the research of open domain dialogue systems. However, understanding multiple single turn conversations is not equal to the understanding of multi turn dialogue due to the coherent and context dependent properties of human dialogue. Therefore, in open domain multi turn dialogue generation, it is essential to modeling the contextual semantics of the dialogue history, rather than only according to the last utterance. Previous research had verified the effectiveness of the hierarchical recurrent encoder-decoder framework on open domain multi turn dialogue generation. However, using RNN-based model to hierarchically encoding the utterances to obtain the representation of dialogue history still face the problem of a vanishing gradient. To address this issue, in this paper, we proposed a static and dynamic attention-based approach to model the dialogue history and then generate open domain multi turn dialogue responses. Experimental results on Ubuntu and Opensubtitles datasets verify the effectiveness of the proposed static and dynamic attention-based approach on automatic and human evaluation metrics in various experimental settings. Meanwhile, we also empirically verify the performance of combining the static and dynamic attentions on open domain multi turn dialogue generation.
• Abstract（参考訳）: 近年,オープンドメイン対話システムの研究が学術・産業研究者の関心を集めている。 オープンドメイン対話システムの目標は、会話中の人間を模倣することである。 シングルターン会話生成に関するこれまでの研究は、オープンドメイン対話システムの研究を大いに推進してきた。 しかし、複数回会話を理解することは、人間の対話の一貫性と文脈依存性から多回対話を理解することとは一致しない。 したがって、オープンドメインのマルチターン対話生成においては、最後の発話にのみ依存するのではなく、対話履歴の文脈意味をモデル化することが不可欠である。 従来の研究は、オープンドメインマルチターン対話生成における階層的再帰エンコーダデコーダフレームワークの有効性を検証していた。 しかし、RNNモデルを用いて発話を階層的に符号化し、対話履歴の表現を得るという方法は、いまだに消滅する勾配の問題に直面している。 そこで本研究では,対話履歴をモデル化し,オープンドメイン多元対話応答を生成する静的かつ動的注意に基づくアプローチを提案する。 UbuntuとOpensubtitlesデータセットの実験結果は、様々な実験環境における自動および人的評価指標に対する静的および動的注意に基づくアプローチの有効性を検証する。 また,オープンドメインマルチターン対話生成における静的な注意と動的注意を組み合わせることの性能を実証的に検証する。

関連論文リスト

• WavChat: A Survey of Spoken Dialogue Models [66.82775211793547]
  GPT-4oのようなシステムで実証された音声対話モデルの最近の進歩は、音声領域において大きな注目を集めている。 これらの高度な音声対話モデルは、音声、音楽、その他の音声関連の特徴を理解するだけでなく、音声のスタイリスティックな特徴や音節的な特徴も捉える。 音声対話システムの進歩にもかかわらず、これらのシステムを体系的に組織化し分析する包括的調査が欠如している。
  論文  参考訳（メタデータ） (2024-11-15T04:16:45Z)
• Multi-turn Dialogue Comprehension from a Topic-aware Perspective [70.37126956655985]
  本稿では,話題認識の観点から,マルチターン対話をモデル化することを提案する。 対話文のセグメント化アルゴリズムを用いて、対話文を教師なしの方法でトピック集中フラグメントに分割する。 また,トピックセグメントを処理要素として扱う新しいモデルとして,トピック認識デュアルアテンションマッチング(TADAM)ネットワークを提案する。
  論文  参考訳（メタデータ） (2023-09-18T11:03:55Z)
• CTRLStruct: Dialogue Structure Learning for Open-Domain Response Generation [38.60073402817218]
  十分に構造化されたトピックフローは、バックグラウンド情報を活用し、将来のトピックを予測することで、制御可能で説明可能な応答を生成する。 本稿では,話題レベルの対話クラスタを効果的に探索する対話構造学習のための新しいフレームワークを提案する。 2つの人気のあるオープンドメイン対話データセットの実験は、優れた対話モデルと比較して、我々のモデルはより一貫性のある応答を生成できることを示している。
  論文  参考訳（メタデータ） (2023-03-02T09:27:11Z)
• Channel-aware Decoupling Network for Multi-turn Dialogue Comprehension [81.47133615169203]
  本稿では,PrLMの逐次文脈化を超えて,発話間の包括的相互作用のための合成学習を提案する。 私たちは、モデルが対話ドメインに適応するのを助けるために、ドメイン適応型トレーニング戦略を採用しています。 実験の結果,提案手法は4つの公開ベンチマークデータセットにおいて,強力なPrLMベースラインを著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2023-01-10T13:18:25Z)
• Back to the Future: Bidirectional Information Decoupling Network for Multi-turn Dialogue Modeling [80.51094098799736]
  ユニバーサル対話エンコーダとして双方向情報デカップリングネットワーク(BiDeN)を提案する。 BiDeNは過去と将来の両方のコンテキストを明示的に取り入れており、幅広い対話関連のタスクに一般化することができる。 異なる下流タスクのデータセットに対する実験結果は、我々のBiDeNの普遍性と有効性を示している。
  論文  参考訳（メタデータ） (2022-04-18T03:51:46Z)
• Structural Modeling for Dialogue Disentanglement [43.352833140317486]
  マルチパーティ対話コンテキスト マルチパーティ対話コンテキストは、対話読解の課題に繋がる。 本研究は,対話構造の特徴を考慮に入れて,複数パーティ履歴をスレッドにアンタングルする新しいモデルを設計する。
  論文  参考訳（メタデータ） (2021-10-15T11:28:43Z)
• Graph Based Network with Contextualized Representations of Turns in Dialogue [0.0]
  対話に基づく関係抽出(RE)は、対話に現れる2つの引数間の関係を抽出することを目的としている。 本稿では,対話の理解方法に着目したTUCORE-GCN(TUrn Context aware Graph Convolutional Network)を提案する。
  論文  参考訳（メタデータ） (2021-09-09T03:09:08Z)
• DialogLM: Pre-trained Model for Long Dialogue Understanding and Summarization [19.918194137007653]
  本稿では,長い対話理解と要約のための事前学習フレームワークを提案する。 長い会話の性質を考慮し、生成前学習のためのウィンドウベースの認知的アプローチを提案する。 我々は,対話要約,抽象的質問応答,トピックセグメンテーションのタスクをカバーする,長文対話の5つのデータセットについて広範な実験を行った。
  論文  参考訳（メタデータ） (2021-09-06T13:55:03Z)
• Ranking Enhanced Dialogue Generation [77.8321855074999]
  対話履歴を効果的に活用する方法は、マルチターン対話生成において重要な問題である。 これまでの研究は通常、歴史をモデル化するために様々なニューラルネットワークアーキテクチャを使用していた。 本稿では,ランキング拡張対話生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-08-13T01:49:56Z)
• Probing Neural Dialog Models for Conversational Understanding [21.76744391202041]
  ニューラルオープンドメインダイアログシステムで学習した内部表現を解析する。 この結果から,標準のオープンドメインダイアログシステムでは解答が困難であることが示唆された。 また、ダイアログのダイアログ的ターンテイク性は、これらのモデルによって完全に活用されていないことも判明した。
  論文  参考訳（メタデータ） (2020-06-07T17:32:00Z)
• Rethinking Dialogue State Tracking with Reasoning [76.0991910623001]
  本稿では, 対話状態の段階的追跡を, バックエンドデータの助けを借りて行うことを提案する。 実験の結果,MultiWOZ 2.1の連立信条精度は38.6%向上した。
  論文  参考訳（メタデータ） (2020-05-27T02:05:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。