論文の概要: A Unified Pre-training Framework for Conversational AI
- arxiv url: http://arxiv.org/abs/2105.02482v1
- Date: Thu, 6 May 2021 07:27:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-07 13:30:52.345791
- Title: A Unified Pre-training Framework for Conversational AI
- Title(参考訳): 会話型AIのための統合事前学習フレームワーク
- Authors: Siqi Bao, Bingjin Chen, Huang He, Xin Tian, Han Zhou, Fan Wang, Hua
Wu, Haifeng Wang, Wenquan Wu, Yingzhan Lin
- Abstract要約: PLATO-2は、簡略化された1対1のマッピング関係に適合するように、2段階のカリキュラム学習によって訓練される。
PLATO-2は3つのタスクで1位を獲得し、様々な対話システムのための統一されたフレームワークとしての有効性を検証する。
- 参考スコア(独自算出の注目度): 25.514505462661763
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we explore the application of PLATO-2 on various dialogue
systems, including open-domain conversation, knowledge grounded dialogue, and
task-oriented conversation. PLATO-2 is initially designed as an open-domain
chatbot, trained via two-stage curriculum learning. In the first stage, a
coarse-grained response generation model is learned to fit the simplified
one-to-one mapping relationship. This model is applied to the task-oriented
conversation, given that the semantic mappings tend to be deterministic in task
completion. In the second stage, another fine-grained generation model and an
evaluation model are further learned for diverse response generation and
coherence estimation, respectively. With superior capability on capturing
one-to-many mapping, such models are suitable for the open-domain conversation
and knowledge grounded dialogue. For the comprehensive evaluation of PLATO-2,
we have participated in multiple tasks of DSTC9, including interactive
evaluation of open-domain conversation (Track3-task2), static evaluation of
knowledge grounded dialogue (Track3-task1), and end-to-end task-oriented
conversation (Track2-task1). PLATO-2 has obtained the 1st place in all three
tasks, verifying its effectiveness as a unified framework for various dialogue
systems.
- Abstract(参考訳): 本研究では,オープンドメイン会話,知識基盤対話,タスク指向会話など,様々な対話システムにおけるPLATO-2の適用について検討する。
PLATO-2は、2段階のカリキュラム学習を通じて訓練されたオープンドメインチャットボットとして設計されている。
第1段階では、単純化された1対1マッピング関係に適合する粗粒度応答生成モデルが学習される。
このモデルはタスク指向の会話に適用され、セマンティックマッピングはタスク完了において決定論的である傾向がある。
第2段階では、様々な応答生成とコヒーレンス推定のために、別のきめ細かい生成モデルと評価モデルがさらに学習される。
1対1のマッピングをキャプチャする優れた能力を持つこのモデルは、オープンドメインの会話と知識の接地された対話に適している。
plato-2の包括的評価には,オープンドメイン会話(track3-task2)の対話的評価,知識接地対話(track3-task1)の静的評価,エンドツーエンドタスク指向会話(track2-task1)など,dstc9の複数のタスクが参加した。
PLATO-2は3つのタスクで1位を獲得し、様々な対話システムのための統合フレームワークとしての有効性を検証する。
関連論文リスト
- Unified Conversational Models with System-Initiated Transitions between
Chit-Chat and Task-Oriented Dialogues [4.714297769572548]
対話モードが1つの対話モードで変化した場合に発生する「潜在的イニシアチブ」について検討する。
システム開始遷移をトリガーする遷移文を積極的に生成できる2つの効率的なプロンプトモデルに寄与する。
論文 参考訳(メタデータ) (2023-07-04T11:53:23Z) - SPACE-2: Tree-Structured Semi-Supervised Contrastive Pre-training for
Task-Oriented Dialog Understanding [68.94808536012371]
本稿では,限定ラベル付きダイアログと大規模未ラベルダイアログコーパスから対話表現を学習する,木構造付き事前学習会話モデルを提案する。
提案手法は,7つのデータセットと4つの一般的な対話理解タスクからなるDialoGLUEベンチマークにおいて,最新の結果が得られる。
論文 参考訳(メタデータ) (2022-09-14T13:42:50Z) - Interactive Evaluation of Dialog Track at DSTC9 [8.2208199207543]
第9回ダイアログ・システム・テクノロジー・チャレンジで対話的ダイアログ・トラックの評価が導入された。
本稿では,方法論と結果を含むトラックの概要について述べる。
論文 参考訳(メタデータ) (2022-07-28T22:54:04Z) - KETOD: Knowledge-Enriched Task-Oriented Dialogue [77.59814785157877]
対話システム研究における既存の研究は、主にタスク指向の対話とチャットを独立したドメインとして扱う。
本研究では,タスク指向対話と知識ベースチップチャットを一つのモデルに効果的に統合する方法について検討する。
論文 参考訳(メタデータ) (2022-05-11T16:01:03Z) - TOD-DA: Towards Boosting the Robustness of Task-oriented Dialogue
Modeling on Spoken Conversations [24.245354500835465]
本稿では,音声対話におけるタスク指向対話モデリングの堅牢性を高めるために,新しいモデルに依存しないデータ拡張パラダイムを提案する。
本手法は,音声対話におけるタスク指向対話モデリングのベンチマークであるDSTC10 Track2の両タスクにおいて,第1位となった。
論文 参考訳(メタデータ) (2021-12-23T10:04:25Z) - Multi-Task Pre-Training for Plug-and-Play Task-Oriented Dialogue System [26.837972034630003]
PPTODはタスク指向対話のための統一的なプラグアンドプレイモデルである。
エンド・ツー・エンドの対話モデル、対話状態追跡、意図分類を含む3つのベンチマークTODタスクにおいて、我々のモデルを広範囲にテストする。
論文 参考訳(メタデータ) (2021-09-29T22:02:18Z) - Overview of the Ninth Dialog System Technology Challenge: DSTC9 [111.35889309106359]
第9回対話システム技術チャレンジ(DSTC-9)は、対話システムにおける4つの異なるタスクにエンドツーエンドの対話技術を適用することに焦点を当てている。
本稿では,各トラックのタスク定義,データセット,ベースライン,評価設定について述べる。
論文 参考訳(メタデータ) (2020-11-12T16:43:10Z) - DCR-Net: A Deep Co-Interactive Relation Network for Joint Dialog Act
Recognition and Sentiment Classification [77.59549450705384]
ダイアログシステムでは、ダイアログアクト認識と感情分類は2つの相関タスクである。
既存のシステムのほとんどは、それらを別々のタスクとして扱うか、単に2つのタスクを一緒にモデル化するだけです。
本稿では,2つのタスク間の相互作用をモデル化するディープ・コ・インタラクティブ・リレーショナル・ネットワーク(DCR-Net)を提案する。
論文 参考訳(メタデータ) (2020-08-16T14:13:32Z) - Point or Generate Dialogue State Tracker [0.0]
我々はPOGD(Point-Or-Generate Dialogue State Tracker)を提案する。
POGDは、ユーザの発話から明示的に表現されたスロット値を指摘し、スロット固有のコンテキストに基づいて暗黙的に表現されたスロットを生成する。
実験によると、POGDはWoZ 2.0とMultiWoZ 2.0の両方のデータセットで最先端の結果を得るだけでなく、目に見えない値と新しいスロットをうまく一般化している。
論文 参考訳(メタデータ) (2020-08-08T02:15:25Z) - UniConv: A Unified Conversational Neural Architecture for Multi-domain
Task-oriented Dialogues [101.96097419995556]
ユニコンブ」はタスク指向対話におけるエンドツーエンド対話システムのための新しい統合型ニューラルネットワークである。
我々は、MultiWOZ2.1ベンチマークにおいて、対話状態追跡、コンテキスト・ツー・テキスト、エンドツーエンド設定の包括的な実験を行う。
論文 参考訳(メタデータ) (2020-04-29T16:28:22Z) - Recent Advances and Challenges in Task-oriented Dialog System [63.82055978899631]
課題指向対話システムは、学術・産業社会でますます注目を集めている。
タスク指向ダイアログシステムにおける3つの重要なトピックについて論じる。(1)低リソース環境でのダイアログモデリングを容易にするデータ効率の改善、(2)ダイアログポリシー学習のためのマルチターンダイナミクスのモデリング、(3)ダイアログモデルへのドメイン知識の統合。
論文 参考訳(メタデータ) (2020-03-17T01:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。