論文の概要: CTRLStruct: Dialogue Structure Learning for Open-Domain Response Generation

• arxiv url: http://arxiv.org/abs/2303.01094v1
• Date: Thu, 2 Mar 2023 09:27:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-03 15:15:31.987740
• Title: CTRLStruct: Dialogue Structure Learning for Open-Domain Response Generation
• Title（参考訳）: CTRLStruct:オープンドメイン応答生成のための対話構造学習
• Authors: Congchi Yin, Piji Li and Zhaochun Ren
• Abstract要約: 十分に構造化されたトピックフローは、バックグラウンド情報を活用し、将来のトピックを予測することで、制御可能で説明可能な応答を生成する。 本稿では,話題レベルの対話クラスタを効果的に探索する対話構造学習のための新しいフレームワークを提案する。 2つの人気のあるオープンドメイン対話データセットの実験は、優れた対話モデルと比較して、我々のモデルはより一貫性のある応答を生成できることを示している。
• 参考スコア（独自算出の注目度）: 38.60073402817218
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Dialogue structure discovery is essential in dialogue generation. Well-structured topic flow can leverage background information and predict future topics to help generate controllable and explainable responses. However, most previous work focused on dialogue structure learning in task-oriented dialogue other than open-domain dialogue which is more complicated and challenging. In this paper, we present a new framework CTRLStruct for dialogue structure learning to effectively explore topic-level dialogue clusters as well as their transitions with unlabelled information. Precisely, dialogue utterances encoded by bi-directional Transformer are further trained through a special designed contrastive learning task to improve representation. Then we perform clustering to utterance-level representations and form topic-level clusters that can be considered as vertices in dialogue structure graph. The edges in the graph indicating transition probability between vertices are calculated by mimicking expert behavior in datasets. Finally, dialogue structure graph is integrated into dialogue model to perform controlled response generation. Experiments on two popular open-domain dialogue datasets show our model can generate more coherent responses compared to some excellent dialogue models, as well as outperform some typical sentence embedding methods in dialogue utterance representation. Code is available in GitHub.
• Abstract（参考訳）: 対話構造発見は対話生成に不可欠である。 構造化されたトピックフローは、バックグラウンド情報を活用し、将来のトピックを予測することで、制御可能で説明可能な応答を生成する。 しかし、従来の研究は、より複雑で困難なオープンドメイン対話以外のタスク指向対話における対話構造学習に重点を置いていた。 本稿では,トピックレベルの対話クラスタを効果的に探索するための対話構造学習のための新しいフレームワークctrlstructを提案する。 正確には、双方向トランスフォーマーによって符号化された対話発話は、表現を改善するために特別に設計されたコントラスト学習タスクによってさらに訓練される。 そして、発話レベルの表現にクラスタリングを行い、対話構造グラフの頂点と見なせる話題レベルのクラスタを形成する。 頂点間の遷移確率を示すグラフのエッジは、データセットにおける専門家の振る舞いを模倣して計算される。 最後に、対話構造グラフを対話モデルに統合し、制御応答生成を行う。 2つのポピュラーなopen-domain dialogueデータセットにおける実験により、このモデルは、優れた対話モデルに比べてよりコヒーレントな応答を生成できるだけでなく、対話発話表現における典型的な文埋め込み手法よりも優れていることが示された。 コードはGitHubで入手できる。

関連論文リスト

• A Static and Dynamic Attention Framework for Multi Turn Dialogue Generation [37.79563028123686]
  オープンドメインマルチターン対話生成では,対話履歴の文脈意味論をモデル化することが不可欠である。 従来の研究は、オープンドメインマルチターン対話生成における階層的再帰エンコーダデコーダフレームワークの有効性を検証していた。 本稿では,対話履歴をモデル化し,オープンドメインのマルチターン対話応答を生成する静的かつ動的アテンションに基づくアプローチを提案する。
  論文  参考訳（メタデータ） (2024-10-28T06:05:34Z)
• Unsupervised Extraction of Dialogue Policies from Conversations [3.102576158218633]
  本稿では,データセットから対話ポリシーを抽出する上で,Large Language Modelがいかに有効かを示す。 そこで我々は,制御可能かつ解釈可能なグラフベースの手法を用いて対話ポリシーを生成する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-06-21T14:57:25Z)
• SuperDialseg: A Large-scale Dataset for Supervised Dialogue Segmentation [55.82577086422923]
  文書地上対話の助けを借りて,対話のセグメンテーションポイントを実現可能な定義を提供する。 我々は,9,478の対話を含むSuperDialsegと呼ばれる大規模教師付きデータセットをリリースする。 また、対話セグメンテーションタスクの5つのカテゴリにまたがる18のモデルを含むベンチマークも提供する。
  論文  参考訳（メタデータ） (2023-05-15T06:08:01Z)
• Structure Extraction in Task-Oriented Dialogues with Slot Clustering [94.27806592467537]
  タスク指向対話では、対話構造はしばしば対話状態間の遷移グラフと見なされている。 本稿では,タスク指向対話における構造抽出のための簡易かつ効果的な手法を提案する。
  論文  参考訳（メタデータ） (2022-02-28T20:18:12Z)
• Graph Based Network with Contextualized Representations of Turns in Dialogue [0.0]
  対話に基づく関係抽出(RE)は、対話に現れる2つの引数間の関係を抽出することを目的としている。 本稿では,対話の理解方法に着目したTUCORE-GCN(TUrn Context aware Graph Convolutional Network)を提案する。
  論文  参考訳（メタデータ） (2021-09-09T03:09:08Z)
• Discovering Dialog Structure Graph for Open-Domain Dialog Generation [51.29286279366361]
  chitchat corporaの対話構造を無監督で発見します。 次に、下流システムでのダイアログ生成を容易にするために利用します。 本稿では,グラフニューラルネットワーク(DVAE-GNN)を用いた離散変分自動エンコーダを提案する。
  論文  参考訳（メタデータ） (2020-12-31T10:58:37Z)
• Reasoning in Dialog: Improving Response Generation by Context Reading Comprehension [49.92173751203827]
  マルチターンダイアログでは、発話が文の完全な形を取るとは限らない。 読み解きの質問に答えるモデルの能力を検討し、応答生成性能の向上を提案する。
  論文  参考訳（メタデータ） (2020-12-14T10:58:01Z)
• Structured Attention for Unsupervised Dialogue Structure Induction [110.12561786644122]
  本稿では、構造化された注意層を離散潜在状態を持つ変化型リカレントニューラルネットワーク(VRNN)モデルに組み込んで、教師なしの方法で対話構造を学ぶことを提案する。 バニラVRNNと比較して、構造化された注意は、構造的帰納バイアスを強制しながら、ソース文の埋め込みの異なる部分にフォーカスすることができる。
  論文  参考訳（メタデータ） (2020-09-17T23:07:03Z)
• Variational Hierarchical Dialog Autoencoder for Dialog State Tracking Data Augmentation [59.174903564894954]
  本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。 目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。 各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
  論文  参考訳（メタデータ） (2020-01-23T15:34:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。