論文の概要: Internet-Augmented Dialogue Generation
- arxiv url: http://arxiv.org/abs/2107.07566v1
- Date: Thu, 15 Jul 2021 19:00:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-19 14:50:06.140106
- Title: Internet-Augmented Dialogue Generation
- Title(参考訳): インターネットによる対話生成
- Authors: Mojtaba Komeili, Kurt Shuster, Jason Weston
- Abstract要約: 大きな言語モデルは、対話を生成するときに事実を幻覚させることが知られている。
本稿では,その文脈に基づいてインターネット検索クエリを生成する手法を提案する。
我々は、新たに収集された人間と人間の会話のデータセットに基づいて、そのようなモデルを訓練し、評価する。
- 参考スコア(独自算出の注目度): 31.38493489631621
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The largest store of continually updating knowledge on our planet can be
accessed via internet search. In this work we study giving access to this
information to conversational agents. Large language models, even though they
store an impressive amount of knowledge within their weights, are known to
hallucinate facts when generating dialogue (Shuster et al., 2021); moreover,
those facts are frozen in time at the point of model training. In contrast, we
propose an approach that learns to generate an internet search query based on
the context, and then conditions on the search results to finally generate a
response, a method that can employ up-to-the-minute relevant information. We
train and evaluate such models on a newly collected dataset of human-human
conversations whereby one of the speakers is given access to internet search
during knowledgedriven discussions in order to ground their responses. We find
that search-query based access of the internet in conversation provides
superior performance compared to existing approaches that either use no
augmentation or FAISS-based retrieval (Lewis et al., 2020).
- Abstract(参考訳): 地球上の知識を継続的に更新する最大のストアは、インターネット検索を通じてアクセスすることができる。
本研究では,この情報を対話エージェントに提供することを研究する。
大きな言語モデルは、その重みの中に驚くべき量の知識を格納しているにもかかわらず、対話を生成する際に事実を暗示することが知られている(shuster et al., 2021)。
対照的に,コンテクストに基づいてインターネット検索クエリを生成し,その結果の条件を学習し,最終的に応答を生成する手法を提案する。
我々は、新たに収集された人間と人間の会話のデータセットに基づいて、これらのモデルをトレーニングし、評価する。
検索クエリによる会話によるインターネットのアクセスは、拡張やFAISSベースの検索を使わない既存のアプローチに比べて優れたパフォーマンスが得られる(Lewis et al., 2020)。
関連論文リスト
- A Survey of Conversational Search [44.09402706387407]
会話検索における最近の進歩と今後の方向性について検討する。
これらのシステムの拡張において,大規模言語モデル(LLM)の統合を強調した。
我々は,現実のアプリケーションに対する洞察と,現在の対話型検索システムの堅牢な評価を提供する。
論文 参考訳(メタデータ) (2024-10-21T01:54:46Z) - Data Augmentation for Conversational AI [17.48107304359591]
データ拡張(DA)は、会話システムにおけるデータ不足問題を軽減するための感情的なアプローチである。
このチュートリアルは、会話システムのコンテキストにおけるDAアプローチの包括的で最新の概要を提供する。
論文 参考訳(メタデータ) (2023-09-09T09:56:35Z) - AutoConv: Automatically Generating Information-seeking Conversations
with Large Language Models [74.10293412011455]
合成会話生成のためのAutoConvを提案する。
具体的には,会話生成問題を言語モデリングタスクとして定式化する。
我々は、情報探索プロセスの特徴を捉えるために、人間同士の会話でLLMを微調整する。
論文 参考訳(メタデータ) (2023-08-12T08:52:40Z) - Does Collaborative Human-LM Dialogue Generation Help Information
Extraction from Human Dialogues? [55.28340832822234]
実際のアプリケーションにおける人間の対話の問題解決は、既存のWizard-of-Ozコレクションよりもはるかに複雑である。
本稿では,リアルな対話を合成できる人間間対話生成フレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-13T20:02:50Z) - q2d: Turning Questions into Dialogs to Teach Models How to Search [11.421839177607147]
質問から情報検索ダイアログを生成する自動データ生成パイプラインであるq2dを提案する。
検索クエリによる人書きダイアログに依存する従来の手法とは異なり,提案手法では,より優れた制御とスケールで,クエリベースの基底ダイアログを自動的に生成することができる。
論文 参考訳(メタデータ) (2023-04-27T16:39:15Z) - Search-Engine-augmented Dialogue Response Generation with Cheaply
Supervised Query Production [98.98161995555485]
応答生成のために,任意の検索エンジンから膨大な動的情報にアクセス可能な対話モデルを提案する。
コアモジュールとして、クエリプロデューサを使用して、対話コンテキストからクエリを生成して、検索エンジンと対話する。
R@1とR@5のレートを62.4%と74.8%で達成できることを示す実験を行った。
論文 参考訳(メタデータ) (2023-02-16T01:58:10Z) - Dynamic Planning in Open-Ended Dialogue using Reinforcement Learning [35.67318830455459]
我々は、強化学習(RL)を用いて、ロボットの対話能力を大規模に活用するリアルタイムかつオープンな対話システムを開発した。
我々の作業は、動的行動空間に特に適するRL技術とSOTA言語モデルを用いて生成された会話状態の簡潔な埋め込みをペアリングする。
論文 参考訳(メタデータ) (2022-07-25T16:12:33Z) - Training Conversational Agents with Generative Conversational Networks [74.9941330874663]
我々は、生成会話ネットワークを使用して、自動的にデータを生成し、社会的会話エージェントを訓練する。
自動メトリクスと人的評価器を用いてTopicalChatのアプローチを評価し、10%のシードデータで100%のデータを使用するベースラインに近いパフォーマンスを示す。
論文 参考訳(メタデータ) (2021-10-15T21:46:39Z) - Few-Shot Bot: Prompt-Based Learning for Dialogue Systems [58.27337673451943]
ごく少数の例を使って会話を学ぶことは、会話型AIにおける大きな課題である。
現在の最良の会話モデルは、良いチャットシャッター(例:BlenderBot)またはゴール指向システム(例:MinTL)である。
グラデーションベースの微調整を必要とせず、学習の唯一の源としていくつかの例を用いるプロンプトベースの数ショット学習を提案する。
論文 参考訳(メタデータ) (2021-10-15T14:36:45Z) - BERT Embeddings Can Track Context in Conversational Search [5.3222282321717955]
我々は,自然な方法で情報検索を支援する対話型検索システムを開発した。
システムは、質問が提示される状況を理解し、会話の現在の状態を追跡し、以前の質問や回答に対する言及を検出する。
論文 参考訳(メタデータ) (2021-04-13T22:02:24Z) - Conversations with Search Engines: SERP-based Conversational Response
Generation [77.1381159789032]
我々は、検索エンジンと対話するためのパイプラインを開発するために、適切なデータセット、検索・アズ・ア・会話(SaaC)データセットを作成します。
また、このデータセットを用いて、検索エンジンと対話するための最先端パイプライン(Conversations with Search Engines (CaSE))も開発しています。
CaSEは、サポートされたトークン識別モジュールとプリア・アウェア・ポインタージェネレータを導入することで最先端を向上する。
論文 参考訳(メタデータ) (2020-04-29T13:07:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。