論文の概要: EnsembleGAN: Adversarial Learning for Retrieval-Generation Ensemble
Model on Short-Text Conversation
- arxiv url: http://arxiv.org/abs/2004.14592v1
- Date: Thu, 30 Apr 2020 05:59:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-08 05:18:04.462464
- Title: EnsembleGAN: Adversarial Learning for Retrieval-Generation Ensemble
Model on Short-Text Conversation
- Title(参考訳): EnsembleGAN:短文会話における検索生成エンサンブルモデルの逆学習
- Authors: Jiayi Zhang, Chongyang Tao, Zhenjing Xu, Qiaojing Xie, Wei Chen, Rui
Yan
- Abstract要約: アンサンブルGANは、オープンドメイン会話シナリオにおいて、検索世代アンサンブルモデルを強化するための逆学習フレームワークである。
言語モデルのようなジェネレータ、ランカジェネレータ、ランカディミネーターで構成されている。
- 参考スコア(独自算出の注目度): 37.80290058812499
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generating qualitative responses has always been a challenge for
human-computer dialogue systems. Existing dialogue systems generally derive
from either retrieval-based or generative-based approaches, both of which have
their own pros and cons. Despite the natural idea of an ensemble model of the
two, existing ensemble methods only focused on leveraging one approach to
enhance another, we argue however that they can be further mutually enhanced
with a proper training strategy. In this paper, we propose ensembleGAN, an
adversarial learning framework for enhancing a retrieval-generation ensemble
model in open-domain conversation scenario. It consists of a
language-model-like generator, a ranker generator, and one ranker
discriminator. Aiming at generating responses that approximate the ground-truth
and receive high ranking scores from the discriminator, the two generators
learn to generate improved highly relevant responses and competitive unobserved
candidates respectively, while the discriminative ranker is trained to identify
true responses from adversarial ones, thus featuring the merits of both
generator counterparts. The experimental results on a large short-text
conversation data demonstrate the effectiveness of the ensembleGAN by the
amelioration on both human and automatic evaluation metrics.
- Abstract(参考訳): 定性的な応答を生成することは、人間とコンピュータの対話システムにとって常に課題である。
既存の対話システムは通常、検索ベースまたは生成ベースアプローチのいずれかに由来する。
2つのアンサンブルモデルが自然に考えられたにもかかわらず、既存のアンサンブル法は1つのアプローチを利用してもう1つの方法を強化することにのみ焦点を絞っていた。
本稿では,オープンドメイン会話シナリオにおける検索生成アンサンブルモデルを強化するための逆学習フレームワークであるアンサンブルGANを提案する。
言語モデルのようなジェネレータ、ランカジェネレータ、ランカディミネーターで構成されている。
2つの生成器は、接地を近似し、判別器から高いランクのスコアを受ける応答を生成することを目指して、それぞれ、高度に関連性の高い応答と、競合しない候補者をそれぞれ生成することを学習し、差別的ランク付け器は、敵の反応から真の応答を識別するように訓練し、両生成器のメリットを特徴付ける。
大規模短文会話データを用いた実験結果から,人間および自動評価指標に対する改善によるアンサンブルガンの有効性が示された。
関連論文リスト
- PICK: Polished & Informed Candidate Scoring for Knowledge-Grounded
Dialogue Systems [59.1250765143521]
現在の知識接地対話システムは、生成された応答を人間に好まれる品質に合わせるのに失敗することが多い。
我々は,世代別再描画フレームワークであるPolseed & Informed Candidate Scoring (PICK)を提案する。
対話履歴に関連性を維持しつつ,より忠実な応答を生成するためのPICKの有効性を示す。
論文 参考訳(メタデータ) (2023-09-19T08:27:09Z) - Adversarial Conversational Shaping for Intelligent Agents [0.0]
本研究は, 対話型エージェントの対戦型形状形成により, インテリジェントな対話エージェントを向上できる2つのモデルの性能について検討する。
1つのモデルは、部分的におよび完全に生成されたテキストシーケンスに報酬を割り当てることができる。
強化学習フレームワークにおいて,Seq2seq[36]とTransformer[37]という,異なるトレーニングの詳細でパフォーマンスを議論する。
論文 参考訳(メタデータ) (2023-07-20T12:44:47Z) - Diverse and Faithful Knowledge-Grounded Dialogue Generation via
Sequential Posterior Inference [82.28542500317445]
本稿では,知識の選択と対話生成が可能な,逐次後推論(Sequential Posterior Inference, SPI)と呼ばれるエンドツーエンド学習フレームワークを提案する。
他の方法とは異なり、SPIは推論ネットワークを必要とせず、後部分布の単純な幾何学を仮定する。
論文 参考訳(メタデータ) (2023-06-01T21:23:13Z) - Towards Robust Online Dialogue Response Generation [62.99904593650087]
これは、トレーニングと実世界のテストの相違によって引き起こされる可能性がある、と私たちは主張する。
本稿では, 発話レベルサンプリングと半発話レベルサンプリングの両方からなる階層的サンプリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-07T06:51:41Z) - Context Matters in Semantically Controlled Language Generation for
Task-oriented Dialogue Systems [6.1478669848771546]
本研究は,タスク指向対話における文脈言語生成を実現するために,事前学習モデルによって符号化された対話履歴情報と,現在のシステム発話の意味表現とを組み合わせる。
我々は、事前学習されたマルチコンテキスト・コンベRTモデルを、スクラッチから訓練されたモデルにおける文脈表現に利用し、事前学習されたGPT-2から適応したモデルにおいて、直前のユーザ発話を文脈生成に活用する。
論文 参考訳(メタデータ) (2021-11-28T11:48:02Z) - WeaSuL: Weakly Supervised Dialogue Policy Learning: Reward Estimation
for Multi-turn Dialogue [17.663449579168297]
エージェントとユーザ(教師付き学習目標を持つエージェントに類似したモデル化)の対話をシミュレートし、相互に対話する。
エージェントは動的ブロッキングを使用して、ランク付けされた多様な応答と探索-探索を生成し、トップK応答の中から選択する。
2つのベンチマークによる実証研究は、我々のモデルが応答品質を著しく上回り、会話の成功につながることを示唆している。
論文 参考訳(メタデータ) (2021-08-01T08:00:45Z) - Knowledge-Grounded Dialogue Generation with Pre-trained Language Models [74.09352261943911]
我々は、事前学習された言語モデルを用いた知識基底対話生成について研究する。
本稿では,知識選択モジュールを用いた事前学習言語モデルによって定義された等価応答生成を提案する。
論文 参考訳(メタデータ) (2020-10-17T16:49:43Z) - Learning an Effective Context-Response Matching Model with
Self-Supervised Tasks for Retrieval-based Dialogues [88.73739515457116]
我々は,次のセッション予測,発話復元,不整合検出,一貫性判定を含む4つの自己教師型タスクを導入する。
我々はPLMに基づく応答選択モデルとこれらの補助タスクをマルチタスク方式で共同で訓練する。
実験結果から,提案した補助的自己教師型タスクは,多ターン応答選択において大きな改善をもたらすことが示された。
論文 参考訳(メタデータ) (2020-09-14T08:44:46Z) - Posterior-GAN: Towards Informative and Coherent Response Generation with
Posterior Generative Adversarial Network [38.576579498740244]
我々は,新しいエンコーダデコーダに基づく生成逆学習フレームワーク,Posterior Generative Adversarial Network (Posterior-GAN)を提案する。
実験結果から,本手法は自動評価と人的評価の両方において,生成した応答の情報性とコヒーレンスを効果的に向上させることが示された。
論文 参考訳(メタデータ) (2020-03-04T11:57:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。