論文の概要: UniRetriever: Multi-task Candidates Selection for Various
Context-Adaptive Conversational Retrieval
- arxiv url: http://arxiv.org/abs/2402.16261v2
- Date: Wed, 28 Feb 2024 06:43:48 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-29 11:57:59.807305
- Title: UniRetriever: Multi-task Candidates Selection for Various
Context-Adaptive Conversational Retrieval
- Title(参考訳): UniRetriever: コンテキスト適応型会話検索のためのマルチタスク候補選択
- Authors: Hongru Wang, Boyang Xue, Baohang Zhou, Rui Wang, Fei Mi, Weichao Wang,
Yasheng Wang, Kam-Fai Wong
- Abstract要約: 本稿では,対話中の3つの支配的検索タスク(ペルソナ選択,知識選択,応答選択)に対する共通検索機能としてマルチタスクフレームワーク機能を提案する。
そこで我々は,文脈適応型対話エンコーダと候補エンコーダからなる二重エンコーダアーキテクチャを設計する。
実験と分析は、そのトレーニング領域内と外部の両方で最先端の検索品質を確立する。
- 参考スコア(独自算出の注目度): 47.40553943948673
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Conversational retrieval refers to an information retrieval system that
operates in an iterative and interactive manner, requiring the retrieval of
various external resources, such as persona, knowledge, and even response, to
effectively engage with the user and successfully complete the dialogue.
However, most previous work trained independent retrievers for each specific
resource, resulting in sub-optimal performance and low efficiency. Thus, we
propose a multi-task framework function as a universal retriever for three
dominant retrieval tasks during the conversation: persona selection, knowledge
selection, and response selection. To this end, we design a dual-encoder
architecture consisting of a context-adaptive dialogue encoder and a candidate
encoder, aiming to attention to the relevant context from the long dialogue and
retrieve suitable candidates by simply a dot product. Furthermore, we introduce
two loss constraints to capture the subtle relationship between dialogue
context and different candidates by regarding historically selected candidates
as hard negatives. Extensive experiments and analysis establish
state-of-the-art retrieval quality both within and outside its training domain,
revealing the promising potential and generalization capability of our model to
serve as a universal retriever for different candidate selection tasks
simultaneously.
- Abstract(参考訳): 会話検索とは、ユーザと効果的に関わり、対話を成功させるために、ペルソナ、知識、さらには応答といった様々な外部リソースの検索を必要とする反復的かつ対話的な方法で動作する情報検索システムである。
しかし、これまでのほとんどの作業では、個々のリソースに対して独立したレトリバーを訓練し、結果として準最適性能と低効率を実現した。
そこで本研究では,対話中の3つの支配的検索タスク(ペルソナ選択,知識選択,応答選択)の共通検索機能としてマルチタスクフレームワーク機能を提案する。
そこで本研究では,コンテキスト適応型対話エンコーダと候補エンコーダからなるデュアルエンコーダアーキテクチャを設計し,長文対話から関連するコンテキストに注意を向け,ドット積だけで適切な候補を検索する。
さらに, 歴史的に選択された候補をハードネガとして扱うことにより, 対話コンテキストと候補間の微妙な関係を捉えるために, 二つの損失制約を導入する。
広範な実験と分析により,学習領域内外において最先端の検索品質が確立され,異なる候補選択タスクの普遍的検索として機能するモデルの有望な可能性と一般化能力が明らかにされた。
関連論文リスト
- UniMS-RAG: A Unified Multi-source Retrieval-Augmented Generation for Personalized Dialogue Systems [43.266153244137215]
大規模言語モデル(LLM)は多くの自然言語理解および生成タスクにおいて例外的な機能を示している。
我々は、パーソナライズされた応答を3つのサブタスク(知識ソース選択、知識検索、応答生成)に分解する。
統一多ソース検索拡張生成システム(UniMS-RAG)を提案する。
論文 参考訳(メタデータ) (2024-01-24T06:50:20Z) - FCC: Fusing Conversation History and Candidate Provenance for Contextual
Response Ranking in Dialogue Systems [53.89014188309486]
複数のチャネルからコンテキスト情報を統合できるフレキシブルなニューラルネットワークフレームワークを提案する。
会話応答ランキングタスクの評価に広く用いられているMSDialogデータセット上で,本モデルの評価を行った。
論文 参考訳(メタデータ) (2023-03-31T23:58:28Z) - KETOD: Knowledge-Enriched Task-Oriented Dialogue [77.59814785157877]
対話システム研究における既存の研究は、主にタスク指向の対話とチャットを独立したドメインとして扱う。
本研究では,タスク指向対話と知識ベースチップチャットを一つのモデルに効果的に統合する方法について検討する。
論文 参考訳(メタデータ) (2022-05-11T16:01:03Z) - Retrieve & Memorize: Dialog Policy Learning with Multi-Action Memory [13.469140432108151]
本稿では,システム行動の学習を促進するための検索・記憶フレームワークを提案する。
メモリ拡張型マルチデコーダネットワークを用いて、候補動作に条件付きシステム動作を生成する。
本手法は,コンテキスト・ツー・レスポンス生成タスクにおける最先端モデル間の競合性能を実現する。
論文 参考訳(メタデータ) (2021-06-04T07:53:56Z) - Dialogue History Matters! Personalized Response Selectionin Multi-turn
Retrieval-based Chatbots [62.295373408415365]
本稿では,コンテキスト応答マッチングのためのパーソナライズドハイブリッドマッチングネットワーク(phmn)を提案する。
1) ユーザ固有の対話履歴からパーソナライズされた発話行動を付加的なマッチング情報として抽出する。
ユーザ識別による2つの大規模データセット,すなわちパーソナライズされた対話 Corpus Ubuntu (P-Ubuntu) とパーソナライズされたWeiboデータセット (P-Weibo) のモデルを評価する。
論文 参考訳(メタデータ) (2021-03-17T09:42:11Z) - Learning an Effective Context-Response Matching Model with
Self-Supervised Tasks for Retrieval-based Dialogues [88.73739515457116]
我々は,次のセッション予測,発話復元,不整合検出,一貫性判定を含む4つの自己教師型タスクを導入する。
我々はPLMに基づく応答選択モデルとこれらの補助タスクをマルチタスク方式で共同で訓練する。
実験結果から,提案した補助的自己教師型タスクは,多ターン応答選択において大きな改善をもたらすことが示された。
論文 参考訳(メタデータ) (2020-09-14T08:44:46Z) - Multi-Stage Conversational Passage Retrieval: An Approach to Fusing Term
Importance Estimation and Neural Query Rewriting [56.268862325167575]
マルチステージアドホックIRシステムにクエリ再構成を組み込んだ会話経路検索(ConvPR)に取り組む。
本稿では,1項の重要度推定と2項のニューラルクエリ書き換えという2つの手法を提案する。
前者に対しては、周波数に基づく信号を用いて会話コンテキストから抽出した重要な用語を用いて会話クエリを拡張する。
後者では,会話クエリを,事前訓練されたシーケンス列列列モデルを用いて,自然な,スタンドアロンの,人間の理解可能なクエリに再構成する。
論文 参考訳(メタデータ) (2020-05-05T14:30:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。