論文の概要: Enhancing Knowledge Retrieval with Topic Modeling for Knowledge-Grounded Dialogue

• arxiv url: http://arxiv.org/abs/2405.04713v1
• Date: Tue, 07 May 2024 23:32:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-11 00:58:58.529927
• Title: Enhancing Knowledge Retrieval with Topic Modeling for Knowledge-Grounded Dialogue
• Title（参考訳）: 知識中心対話のためのトピックモデリングによる知識検索の強化
• Authors: Nhat Tran, Diane Litman,
• Abstract要約: 本稿では,知識ベースにおけるトピックモデリングを利用して,検索精度をさらに向上する手法を提案する。 また,改良された検索性能を活用するために,大規模な言語モデルChatGPTの実験を行った。
• 参考スコア（独自算出の注目度）: 0.6650227510403052
• License:
• Abstract: Knowledge retrieval is one of the major challenges in building a knowledge-grounded dialogue system. A common method is to use a neural retriever with a distributed approximate nearest-neighbor database to quickly find the relevant knowledge sentences. In this work, we propose an approach that utilizes topic modeling on the knowledge base to further improve retrieval accuracy and as a result, improve response generation. Additionally, we experiment with a large language model, ChatGPT, to take advantage of the improved retrieval performance to further improve the generation results. Experimental results on two datasets show that our approach can increase retrieval and generation performance. The results also indicate that ChatGPT is a better response generator for knowledge-grounded dialogue when relevant knowledge is provided.
• Abstract（参考訳）: 知識検索は知識に基づく対話システムを構築する上で大きな課題の1つである。 一般的な方法では、ニューラルネットワークを近接データベースに分散させることで、関連する知識文を素早く見つけることができる。 本研究では,知識ベースにおけるトピックモデリングを利用して,検索精度をさらに向上し,その結果,応答生成を改善するアプローチを提案する。 さらに、我々は、改良された検索性能を利用して生成結果を改善するために、大規模な言語モデルChatGPTを実験した。 2つのデータセットに対する実験結果から,本手法は検索性能と生成性能を向上させることができることが示された。 また,ChatGPTは,関連知識が提供される場合に,より優れた応答生成器であることが示唆された。

関連論文リスト

• Mitigating the Negative Impact of Over-association for Conversational Query Production [44.661864532728615]
  対話型クエリ生成は、対話履歴から検索クエリを生成することを目的としており、検索エンジンから関連する知識を取得するために使用される。 従来のモデルはデータ飢餓の問題に悩まされており、対話履歴から重要な概念を落とし、推論時に無関係な概念を生成する傾向がある。 複数の視点からこれらの問題を緩和するための訓練のための効果的なインスタンスレベルの重み付け戦略を提案する。
  論文  参考訳（メタデータ） (2024-09-29T06:19:59Z)
• Retrieval-Generation Alignment for End-to-End Task-Oriented Dialogue System [40.33178881317882]
  本稿では、応答生成からの信号を利用して、知覚的レトリバーの学習に最大限の限界確率を適用することを提案する。 本稿では,T5とChatGPTをバックボーンモデルとして用いた3つのタスク指向対話データセットについて検討する。
  論文  参考訳（メタデータ） (2023-10-13T06:03:47Z)
• PICK: Polished & Informed Candidate Scoring for Knowledge-Grounded Dialogue Systems [59.1250765143521]
  現在の知識接地対話システムは、生成された応答を人間に好まれる品質に合わせるのに失敗することが多い。 我々は,世代別再描画フレームワークであるPolseed & Informed Candidate Scoring (PICK)を提案する。 対話履歴に関連性を維持しつつ,より忠実な応答を生成するためのPICKの有効性を示す。
  論文  参考訳（メタデータ） (2023-09-19T08:27:09Z)
• Enhancing Retrieval-Augmented Large Language Models with Iterative Retrieval-Generation Synergy [164.83371924650294]
  検索と生成を反復的に同期させるIter-RetGenと呼ばれる手法により,高い性能が得られることを示す。 モデル出力は、タスクを完了するために必要なものを示し、より関連する知識を取得するための情報的コンテキストを提供する。 Iter-RetGenプロセスは、すべての知識を全体として取得し、構造的な制約なしに生成時の柔軟性をほとんど保持します。
  論文  参考訳（メタデータ） (2023-05-24T16:17:36Z)
• Task Oriented Conversational Modelling With Subjective Knowledge [0.0]
  DSTC-11は、ターン検出、知識選択、応答生成を求める知識からなる3段階パイプラインを提案する。 本稿では,正確で高速な知識検索を実現するエンティティ検索手法を提案する。 予備的な結果から,知識選択作業における一致点の精度は4%向上した。
  論文  参考訳（メタデータ） (2023-03-30T20:23:49Z)
• Search-Engine-augmented Dialogue Response Generation with Cheaply Supervised Query Production [98.98161995555485]
  応答生成のために,任意の検索エンジンから膨大な動的情報にアクセス可能な対話モデルを提案する。 コアモジュールとして、クエリプロデューサを使用して、対話コンテキストからクエリを生成して、検索エンジンと対話する。 R@1とR@5のレートを62.4%と74.8%で達成できることを示す実験を行った。
  論文  参考訳（メタデータ） (2023-02-16T01:58:10Z)
• RHO ($\rho$): Reducing Hallucination in Open-domain Dialogues with Knowledge Grounding [57.46495388734495]
  本稿では、知識グラフ(KG)からリンクされたエンティティと関係述語を表現したRHO(rho$)を提案する。 本稿では,(1)テキスト埋め込みと対応するKG埋め込みを組み合わせるための局所知識基盤,(2)注目機構を介してRHOにマルチホップ推論能力を持たせるためのグローバル知識基盤を提案する。
  論文  参考訳（メタデータ） (2022-12-03T10:36:34Z)
• Retrieval-Free Knowledge-Grounded Dialogue Response Generation with Adapters [52.725200145600624]
  軽量アダプタで事前学習した言語モデルに事前知識を注入し、検索プロセスをバイパスする KnowExpert を提案する。 実験結果から,KnowExpertは検索ベースラインと相容れない性能を示した。
  論文  参考訳（メタデータ） (2021-05-13T12:33:23Z)
• Sequential Latent Knowledge Selection for Knowledge-Grounded Dialogue [51.513276162736844]
  この問題に対する最初のアプローチとして,逐次潜在変数モデルを提案する。 シーケンシャル・ナレッジ・トランスフォーマー (SKT) という名前のモデルは、知識よりも先行と後続の分布を追跡することができる。
  論文  参考訳（メタデータ） (2020-02-18T11:59:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。