論文の概要: Retrieval-Generation Alignment for End-to-End Task-Oriented Dialogue System

• arxiv url: http://arxiv.org/abs/2310.08877v1
• Date: Fri, 13 Oct 2023 06:03:47 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-16 14:10:46.395604
• Title: Retrieval-Generation Alignment for End-to-End Task-Oriented Dialogue System
• Title（参考訳）: エンドツーエンドタスク指向対話システムのための検索・生成アライメント
• Authors: Weizhou Shen, Yingqi Gao, Canbin Huang, Fanqi Wan, Xiaojun Quan, Wei Bi
• Abstract要約: 本稿では、応答生成からの信号を利用して、知覚的レトリバーの学習に最大限の限界確率を適用することを提案する。 本稿では,T5とChatGPTをバックボーンモデルとして用いた3つのタスク指向対話データセットについて検討する。
• 参考スコア（独自算出の注目度）: 40.33178881317882
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Developing an efficient retriever to retrieve knowledge from a large-scale knowledge base (KB) is critical for task-oriented dialogue systems to effectively handle localized and specialized tasks. However, widely used generative models such as T5 and ChatGPT often struggle to differentiate subtle differences among the retrieved KB records when generating responses, resulting in suboptimal quality of generated responses. In this paper, we propose the application of maximal marginal likelihood to train a perceptive retriever by utilizing signals from response generation for supervision. In addition, our approach goes beyond considering solely retrieved entities and incorporates various meta knowledge to guide the generator, thus improving the utilization of knowledge. We evaluate our approach on three task-oriented dialogue datasets using T5 and ChatGPT as the backbone models. The results demonstrate that when combined with meta knowledge, the response generator can effectively leverage high-quality knowledge records from the retriever and enhance the quality of generated responses. The codes and models of this paper are available at https://github.com/shenwzh3/MK-TOD.
• Abstract（参考訳）: タスク指向対話システムにおいて,大規模知識ベース(kb)から知識を取り出す効率的な検索器の開発は,局所的および専門的なタスクを効果的に処理するために重要である。 しかし、T5やChatGPTのような広く使われている生成モデルは、応答を生成する際に取得したKBレコード間の微妙な差異を区別するのに苦労することが多く、結果として生成した応答の最適下品質が生じる。 本稿では,応答生成からの信号を監督に利用し,知覚的レトリバーを訓練するための最大限界確率の応用を提案する。 さらに,本手法は,検索対象のみを考慮し,様々なメタ知識を取り入れて生成元を誘導し,知識の利用性を向上させる。 バックボーンモデルとしてt5とchatgptを用いた3つのタスク指向対話データセットに対するアプローチを評価した。 その結果, 応答生成装置は, メタ知識と組み合わせることで, 検索者からの高品質な知識記録を効果的に活用し, 生成した応答の質を高めることができることがわかった。 本論文のコードとモデルは、https://github.com/shenwzh3/mk-todで利用可能である。

関連論文リスト

• Retriever-and-Memory: Towards Adaptive Note-Enhanced Retrieval-Augmented Generation [72.70046559930555]
  本稿では,複雑なQAタスクに対する適応ノート拡張RAG(Adaptive Note-Enhanced RAG)と呼ばれる汎用RAGアプローチを提案する。 具体的には、Adaptive-Noteは、知識の成長に関する包括的な視点を導入し、ノート形式で新しい情報を反復的に収集する。 さらに,適切な知識探索を促進するために,適応的な音符ベースの停止探索戦略を用いて,「何を検索し,いつ停止するか」を判断する。
  論文  参考訳（メタデータ） (2024-10-11T14:03:29Z)
• Enhancing Knowledge Retrieval with Topic Modeling for Knowledge-Grounded Dialogue [0.6650227510403052]
  本稿では,知識ベースにおけるトピックモデリングを利用して,検索精度をさらに向上する手法を提案する。 また,改良された検索性能を活用するために,大規模な言語モデルChatGPTの実験を行った。
  論文  参考訳（メタデータ） (2024-05-07T23:32:32Z)
• Improving the Robustness of Knowledge-Grounded Dialogue via Contrastive Learning [71.8876256714229]
  本稿では,知識ベース対話システムの堅牢性向上を目的とした,エンティティベースのコントラスト学習フレームワークを提案する。 提案手法は,自動評価スコアの点から,新しい最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-01-09T05:16:52Z)
• Dual-Feedback Knowledge Retrieval for Task-Oriented Dialogue Systems [42.17072207835827]
  本稿では,レトリバーを利用して関連する知識を検索し,システム応答を生成するレトリバー・ジェネレータアーキテクチャを提案する。 提案手法は,3つのベンチマークデータセットを用いた実験結果から,タスク指向の対話タスクにおいて優れた性能を示す。
  論文  参考訳（メタデータ） (2023-10-23T03:21:11Z)
• PICK: Polished & Informed Candidate Scoring for Knowledge-Grounded Dialogue Systems [59.1250765143521]
  現在の知識接地対話システムは、生成された応答を人間に好まれる品質に合わせるのに失敗することが多い。 我々は,世代別再描画フレームワークであるPolseed & Informed Candidate Scoring (PICK)を提案する。 対話履歴に関連性を維持しつつ,より忠実な応答を生成するためのPICKの有効性を示す。
  論文  参考訳（メタデータ） (2023-09-19T08:27:09Z)
• Multi-Grained Knowledge Retrieval for End-to-End Task-Oriented Dialog [42.088274728084265]
  外部データベースから適切なドメイン知識を取得することは、エンドツーエンドのタスク指向の対話システムの中心にある。 既存のシステムの多くは、知識検索と応答生成を融合させ、参照応答からの直接監督でそれらを最適化している。 応答生成から知識検索を分離し,多粒度知識検索システムを提案する。
  論文  参考訳（メタデータ） (2023-05-17T12:12:46Z)
• Search-Engine-augmented Dialogue Response Generation with Cheaply Supervised Query Production [98.98161995555485]
  応答生成のために,任意の検索エンジンから膨大な動的情報にアクセス可能な対話モデルを提案する。 コアモジュールとして、クエリプロデューサを使用して、対話コンテキストからクエリを生成して、検索エンジンと対話する。 R@1とR@5のレートを62.4%と74.8%で達成できることを示す実験を行った。
  論文  参考訳（メタデータ） (2023-02-16T01:58:10Z)
• A Template-guided Hybrid Pointer Network for Knowledge-basedTask-oriented Dialogue Systems [15.654119998970499]
  本稿では,知識に基づくタスク指向対話システムのためのテンプレート誘導型ハイブリッドポインタネットワークを提案する。 本研究では,ゲーティング機構を備えたメモリポインタネットワークモデルを設計し,検索した回答と接地トラス応答とのセマンティックな相関関係をフル活用する。
  論文  参考訳（メタデータ） (2021-06-10T15:49:26Z)
• Enhancing Dialogue Generation via Multi-Level Contrastive Learning [57.005432249952406]
  質問に対する応答のきめ細かい品質をモデル化するマルチレベルコントラスト学習パラダイムを提案する。 Rank-aware (RC) ネットワークはマルチレベルコントラスト最適化の目的を構築するために設計されている。 本研究では,知識推論(KI)コンポーネントを構築し,学習中の参照からキーワードの知識を抽出し,そのような情報を活用して情報的単語の生成を促す。
  論文  参考訳（メタデータ） (2020-09-19T02:41:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。