論文の概要: On Task-Level Dialogue Composition of Generative Transformer Model

• arxiv url: http://arxiv.org/abs/2010.04826v1
• Date: Fri, 9 Oct 2020 22:10:03 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-09 04:21:17.341376
• Title: On Task-Level Dialogue Composition of Generative Transformer Model
• Title（参考訳）: 生成変換器モデルのタスクレベル対話構成について
• Authors: Prasanna Parthasarathi and Arvind Neelakantan and Sharan Narang
• Abstract要約: 本研究では,トランスフォーマー生成モデルにおけるヒューマン・ヒューマン・タスク指向対話の学習効果について検討した。 そこで本研究では,(1)人間と人間による単一タスク対話から学習のための複合タスク対話データを作成すること,(2)補助的損失を用いてエンコーダ表現を単一タスク対話に不変にすること,の2つの方法を提案する。
• 参考スコア（独自算出の注目度）: 9.751234480029765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Task-oriented dialogue systems help users accomplish tasks such as booking a movie ticket and ordering food via conversation. Generative models parameterized by a deep neural network are widely used for next turn response generation in such systems. It is natural for users of the system to want to accomplish multiple tasks within the same conversation, but the ability of generative models to compose multiple tasks is not well studied. In this work, we begin by studying the effect of training human-human task-oriented dialogues towards improving the ability to compose multiple tasks on Transformer generative models. To that end, we propose and explore two solutions: (1) creating synthetic multiple task dialogue data for training from human-human single task dialogue and (2) forcing the encoder representation to be invariant to single and multiple task dialogues using an auxiliary loss. The results from our experiments highlight the difficulty of even the sophisticated variant of transformer model in learning to compose multiple tasks from single task dialogues.
• Abstract（参考訳）: タスク指向対話システムは、映画のチケットを予約したり、会話を通じて食べ物を注文したりといったタスクをユーザが達成するのに役立つ。 ディープニューラルネットワークによってパラメータ化された生成モデルは、そのようなシステムにおける次回応答生成に広く使われている。 ユーザが同じ会話の中で複数のタスクを達成したいと考えるのは自然なことだが、生成モデルが複数のタスクを構成する能力は十分に研究されていない。 本研究は,トランスフォーマー生成モデルにおける複数のタスクを構成する能力向上に向けたヒューマン・ヒューマン・タスク指向対話の訓練の効果について検討することから始める。 そこで本研究では,(1)人間と人間の単独タスク対話から学習のための複合タスク対話データを作成すること,(2)補助的損失を用いてエンコーダ表現を単一タスク対話に不変にすること,の2つの方法を提案する。 実験の結果,1つのタスク対話から複数のタスクを構成する学習において,トランスフォーマーモデルの高度な変種でさえも困難であることがわかった。

関連論文リスト

• Multi-User MultiWOZ: Task-Oriented Dialogues among Multiple Users [51.34484827552774]
  マルチユーザMulti-User MultiWOZデータセットを2つのユーザと1つのエージェント間のタスク指向対話としてリリースする。 これらの対話は、タスク指向のシナリオにおける協調的な意思決定の興味深いダイナミクスを反映している。 本稿では,複数ユーザ間のタスク指向のチャットを簡潔なタスク指向のクエリとして書き換える,マルチユーザコンテキストクエリ書き換えの新しいタスクを提案する。
  論文  参考訳（メタデータ） (2023-10-31T14:12:07Z)
• Unified Conversational Models with System-Initiated Transitions between Chit-Chat and Task-Oriented Dialogues [4.714297769572548]
  対話モードが1つの対話モードで変化した場合に発生する「潜在的イニシアチブ」について検討する。 システム開始遷移をトリガーする遷移文を積極的に生成できる2つの効率的なプロンプトモデルに寄与する。
  論文  参考訳（メタデータ） (2023-07-04T11:53:23Z)
• DialogZoo: Large-Scale Dialog-Oriented Task Learning [52.18193690394549]
  我々は,多種多様な対話課題を解くための統合基盤モデルの構築を目指している。 この目的を達成するために、73の公開データセットから、まず大規模なラベル付き対話データセットを収集する。
  論文  参考訳（メタデータ） (2022-05-25T11:17:16Z)
• KETOD: Knowledge-Enriched Task-Oriented Dialogue [77.59814785157877]
  対話システム研究における既存の研究は、主にタスク指向の対話とチャットを独立したドメインとして扱う。 本研究では,タスク指向対話と知識ベースチップチャットを一つのモデルに効果的に統合する方法について検討する。
  論文  参考訳（メタデータ） (2022-05-11T16:01:03Z)
• SYNERGY: Building Task Bots at Scale Using Symbolic Knowledge and Machine Teaching [75.87418236410296]
  SynERGYは、タスクボットを2つのステップで開発するハイブリッド学習フレームワークである。 トレーニング済みのニューラルダイアログモデルであるSOLOISTは、シミュレーションダイアログ上で微調整され、タスクのためのボットを構築する。 微調整されたニューラルダイアログモデルは、機械教育を通じて、いくつかの実際のタスク固有のダイアログによって継続的に洗練される。
  論文  参考訳（メタデータ） (2021-10-21T23:13:04Z)
• Retrieve & Memorize: Dialog Policy Learning with Multi-Action Memory [13.469140432108151]
  本稿では,システム行動の学習を促進するための検索・記憶フレームワークを提案する。 メモリ拡張型マルチデコーダネットワークを用いて、候補動作に条件付きシステム動作を生成する。 本手法は,コンテキスト・ツー・レスポンス生成タスクにおける最先端モデル間の競合性能を実現する。
  論文  参考訳（メタデータ） (2021-06-04T07:53:56Z)
• SOLOIST: Building Task Bots at Scale with Transfer Learning and Machine Teaching [81.45928589522032]
  トランスフォーマーに基づく自動回帰言語モデルを用いて,モジュール型タスク指向対話システムをパラメータ化する。 タスクグラウンド応答生成モデルである異種ダイアログコーパスの事前学習を行う。 実験により、SOLOISTは、よく研究されたタスク指向のダイアログベンチマーク上で、新しい最先端のダイアログを生成する。
  論文  参考訳（メタデータ） (2020-05-11T17:58:34Z)
• Multi-Domain Dialogue Acts and Response Co-Generation [34.27525685962274]
  本稿では,対話行動と応答を同時に生成するニューラルコジェネレーションモデルを提案する。 我々のモデルは, 自動評価と人的評価の両方において, いくつかの最先端モデルに対して, 極めて良好な改善を達成している。
  論文  参考訳（メタデータ） (2020-04-26T12:21:17Z)
• TOD-BERT: Pre-trained Natural Language Understanding for Task-Oriented Dialogue [113.45485470103762]
  本研究では,言語モデリングのためのタスク指向対話データセットを,人間とマルチターンの9つに統合する。 事前学習時の対話動作をモデル化するために,ユーザトークンとシステムトークンをマスク付き言語モデルに組み込む。
  論文  参考訳（メタデータ） (2020-04-15T04:09:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。