論文の概要: Probing Neural Dialog Models for Conversational Understanding
- arxiv url: http://arxiv.org/abs/2006.08331v1
- Date: Sun, 7 Jun 2020 17:32:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 07:12:33.377563
- Title: Probing Neural Dialog Models for Conversational Understanding
- Title(参考訳): 会話理解のためのニューラルダイアログモデルの探索
- Authors: Abdelrhman Saleh, Tovly Deutsch, Stephen Casper, Yonatan Belinkov,
Stuart Shieber
- Abstract要約: ニューラルオープンドメインダイアログシステムで学習した内部表現を解析する。
この結果から,標準のオープンドメインダイアログシステムでは解答が困難であることが示唆された。
また、ダイアログのダイアログ的ターンテイク性は、これらのモデルによって完全に活用されていないことも判明した。
- 参考スコア(独自算出の注目度): 21.76744391202041
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The predominant approach to open-domain dialog generation relies on
end-to-end training of neural models on chat datasets. However, this approach
provides little insight as to what these models learn (or do not learn) about
engaging in dialog. In this study, we analyze the internal representations
learned by neural open-domain dialog systems and evaluate the quality of these
representations for learning basic conversational skills. Our results suggest
that standard open-domain dialog systems struggle with answering questions,
inferring contradiction, and determining the topic of conversation, among other
tasks. We also find that the dyadic, turn-taking nature of dialog is not fully
leveraged by these models. By exploring these limitations, we highlight the
need for additional research into architectures and training methods that can
better capture high-level information about dialog.
- Abstract(参考訳): オープンドメインダイアログ生成に対する主要なアプローチは、チャットデータセット上のニューラルモデルのエンドツーエンドトレーニングに依存している。
しかしながら、このアプローチは、これらのモデルがダイアログへの関与について何を学ぶ(あるいは学習しない)かについての洞察をほとんど与えない。
本研究では,ニューラルオープンドメインダイアログシステムで学習した内部表現を分析し,これらの表現の質を評価する。
この結果から,標準オープンドメインダイアログシステムは,質問への回答や矛盾の推測,会話の話題の決定に苦慮していることが示唆された。
また、ダイアログのダイアログ的ターンテイク性は、これらのモデルによって完全には活用されない。
これらの制限を探索することで、ダイアログに関する高レベル情報をよりよくキャプチャできるアーキテクチャとトレーニング方法に関するさらなる研究の必要性を強調します。
関連論文リスト
- WavChat: A Survey of Spoken Dialogue Models [66.82775211793547]
GPT-4oのようなシステムで実証された音声対話モデルの最近の進歩は、音声領域において大きな注目を集めている。
これらの高度な音声対話モデルは、音声、音楽、その他の音声関連の特徴を理解するだけでなく、音声のスタイリスティックな特徴や音節的な特徴も捉える。
音声対話システムの進歩にもかかわらず、これらのシステムを体系的に組織化し分析する包括的調査が欠如している。
論文 参考訳(メタデータ) (2024-11-15T04:16:45Z) - A Static and Dynamic Attention Framework for Multi Turn Dialogue Generation [37.79563028123686]
オープンドメインマルチターン対話生成では,対話履歴の文脈意味論をモデル化することが不可欠である。
従来の研究は、オープンドメインマルチターン対話生成における階層的再帰エンコーダデコーダフレームワークの有効性を検証していた。
本稿では,対話履歴をモデル化し,オープンドメインのマルチターン対話応答を生成する静的かつ動的アテンションに基づくアプローチを提案する。
論文 参考訳(メタデータ) (2024-10-28T06:05:34Z) - PK-Chat: Pointer Network Guided Knowledge Driven Generative Dialogue
Model [79.64376762489164]
PK-Chatは、知識グラフ上のポインタネットワークと、事前訓練された言語モデルを組み合わせた、ポインタネットワーク誘導生成対話モデルである。
PK-Chatが対話で生成した単語は、単語リストの予測と外部知識グラフ知識の直接予測から導かれる。
PK-Chatに基づく対話システムは、地球科学の学術シナリオ向けに構築されている。
論文 参考訳(メタデータ) (2023-04-02T18:23:13Z) - Interactive Evaluation of Dialog Track at DSTC9 [8.2208199207543]
第9回ダイアログ・システム・テクノロジー・チャレンジで対話的ダイアログ・トラックの評価が導入された。
本稿では,方法論と結果を含むトラックの概要について述べる。
論文 参考訳(メタデータ) (2022-07-28T22:54:04Z) - Response Generation with Context-Aware Prompt Learning [19.340498579331555]
本稿では,対話生成問題を素早い学習課題とする,事前学習型対話モデリングのための新しい手法を提案する。
限られた対話データを微調整する代わりに、我々のアプローチであるDialogPromptは、対話コンテキストに最適化された連続的なプロンプト埋め込みを学習する。
提案手法は,微調整ベースラインと汎用的なプロンプト学習法を著しく上回っている。
論文 参考訳(メタデータ) (2021-11-04T05:40:13Z) - Every time I fire a conversational designer, the performance of the
dialog system goes down [0.07696728525672149]
本稿では,会話設計者のドメイン知識の明示的利用が,ニューラルベース対話システムの性能に与える影響について検討する。
半論理規則で明示的な知識を符号化した対話型論理帰納型ニューラルネットシステム(CLINN)を提案する。
論文 参考訳(メタデータ) (2021-09-27T13:05:31Z) - Learning Reasoning Paths over Semantic Graphs for Video-grounded
Dialogues [73.04906599884868]
対話文脈(PDC)における推論経路の新しい枠組みを提案する。
PDCモデルは、各質問と回答の語彙成分に基づいて構築されたセマンティックグラフを通じて、対話間の情報フローを発見する。
本モデルでは,この推論経路を通じて視覚情報とテキスト情報を逐次的に処理し,提案する特徴を用いて回答を生成する。
論文 参考訳(メタデータ) (2021-03-01T07:39:26Z) - Structured Attention for Unsupervised Dialogue Structure Induction [110.12561786644122]
本稿では、構造化された注意層を離散潜在状態を持つ変化型リカレントニューラルネットワーク(VRNN)モデルに組み込んで、教師なしの方法で対話構造を学ぶことを提案する。
バニラVRNNと比較して、構造化された注意は、構造的帰納バイアスを強制しながら、ソース文の埋め込みの異なる部分にフォーカスすることができる。
論文 参考訳(メタデータ) (2020-09-17T23:07:03Z) - Knowledge Injection into Dialogue Generation via Language Models [85.65843021510521]
InjKは対話生成モデルに知識を注入するための2段階のアプローチである。
まず、大規模言語モデルをトレーニングし、テキスト知識としてクエリする。
次に、対話生成モデルを作成し、テキスト知識と対応する応答を逐次生成する。
論文 参考訳(メタデータ) (2020-04-30T07:31:24Z) - Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation [59.174903564894954]
本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
論文 参考訳(メタデータ) (2020-01-23T15:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。