Fugu-MT 論文翻訳(概要): Learning to Select External Knowledge with Multi-Scale Negative Sampling

論文の概要: Learning to Select External Knowledge with Multi-Scale Negative Sampling

arxiv url: http://arxiv.org/abs/2102.02096v1
Date: Wed, 3 Feb 2021 14:59:35 GMT
ステータス: 処理完了
システム内更新日: 2021-02-04 17:32:17.200152
Title: Learning to Select External Knowledge with Multi-Scale Negative Sampling
Title（参考訳）: マルチスケールネガティブサンプリングによる外部知識選択の学習
Authors: Huang He, Hua Lu, Siqi Bao, Fan Wang, Hua Wu, Zhengyu Niu, Haifeng Wang
Abstract要約: DSTC9のTrack-1は、タスク指向の対話において、ユーザの要求や質問に効果的に答えることを目的としている。外部知識リソースを活用することで、これらのAPI外サージクエリの応答生成に関連情報を検索してエンコードすることが可能になる。
参考スコア（独自算出の注目度）: 31.833572852656008
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The Track-1 of DSTC9 aims to effectively answer user requests or questions during task-oriented dialogues, which are out of the scope of APIs/DB. By leveraging external knowledge resources, relevant information can be retrieved and encoded into the response generation for these out-of-API-coverage queries. In this work, we have explored several advanced techniques to enhance the utilization of external knowledge and boost the quality of response generation, including schema guided knowledge decision, negatives enhanced knowledge selection, and knowledge grounded response generation. To evaluate the performance of our proposed method, comprehensive experiments have been carried out on the publicly available dataset. Our approach was ranked as the best in human evaluation of DSTC9 Track-1.
Abstract（参考訳）: DSTC9のトラック1は、API/DBの範囲外のタスク指向の対話中に、ユーザーの要求や質問に効果的に答えることを目指しています。外部のナレッジリソースを活用することで、関連する情報をAPI外のクエリのレスポンス生成に取得およびエンコードすることができる。本研究では,外部知識の利用性向上と応答生成の質向上を目的として,スキーマ誘導型知識決定,否定的知識選択,知識基盤型応答生成など,いくつかの先進的手法を検討した。提案手法の性能を評価するため,公開データセットを用いた総合的な実験を行った。提案手法はdstc9トラック1のヒト評価において最良であった。

関連論文リスト

KBAlign: Efficient Self Adaptation on Specific Knowledge Bases [75.78948575957081]
大規模言語モデル(LLM)は通常、知識材料を瞬時に活用するために、検索強化世代に依存している。本稿では,知識ベースを含む下流タスクへの効率的な適応を目的としたKBAlignを提案する。提案手法は,Q&Aペアやリビジョン提案などの自己注釈付きデータを用いて反復学習を行い,モデルが知識内容を効率的に把握できるようにする。
論文参考訳（メタデータ） (2024-11-22T08:21:03Z)
Do You Know What You Are Talking About? Characterizing Query-Knowledge Relevance For Reliable Retrieval Augmented Generation [19.543102037001134]
言語モデル(LM)は幻覚や誤報に悩まされていることが知られている。外部知識コーパスから検証可能な情報を検索する検索拡張生成(RAG)は、これらの問題に対する具体的な解決策を提供する。 RAG生成品質は、ユーザのクエリと検索したドキュメントの関連性に大きく依存する。
論文参考訳（メタデータ） (2024-10-10T19:14:55Z)
TRAWL: External Knowledge-Enhanced Recommendation with LLM Assistance [9.017820815622828]
有望なアプローチは、振る舞いに基づく推薦システムを豊富な意味情報で強化するために、外部知識を活用することである。このアプローチは、生の外部知識の認知と意味表現の適応という2つの主要な課題に直面している。 LLM支援を用いた外部知識強化レコメンデーション手法を提案する。
論文参考訳（メタデータ） (2024-03-11T12:04:20Z)
Self-Knowledge Guided Retrieval Augmentation for Large Language Models [59.771098292611846]
大規模言語モデル(LLM)はタスク固有の微調整なしで優れた性能を示す。検索に基づく手法は、非パラメトリックな世界知識を提供し、質問応答のようなタスクのパフォーマンスを向上させることができる。 SKR(Self-Knowledge guided Retrieval augmentation)は、LLMがこれまで遭遇した質問を参照できるようにする、シンプルで効果的な方法である。
論文参考訳（メタデータ） (2023-10-08T04:22:33Z)
Continually Improving Extractive QA via Human Feedback [59.49549491725224]
本研究では,人間のフィードバックによる抽出質問応答(QA)システムの改善を継続的に進める。多様な設定の下で何千ものユーザインタラクションを含む実験を行い、時間とともにフィードバックからの学習の理解を広げます。
論文参考訳（メタデータ） (2023-05-21T14:35:32Z)
A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
論文参考訳（メタデータ） (2022-06-30T02:35:04Z)
SINC: Service Information Augmented Open-Domain Conversation [46.912064636311825]
動的サービス情報を用いた知識駆動対話システムを提案する。オープンドメインの中国初のサービス知識対話データセットDuSincをリリースしました。自動評価と人的評価の両方により,提案手法はオープンドメイン会話の効果を著しく向上させることができることが示された。
論文参考訳（メタデータ） (2022-06-28T13:41:48Z)
Can I Be of Further Assistance? Using Unstructured Knowledge Access to Improve Task-oriented Conversational Modeling [39.60614611655266]
この研究は、外部の非構造化の知識ソースを組み込むことによって、APIをカバーしていないユーザターンに応答することに焦点を当てている。最初の2つのステップで新たなデータ拡張手法を導入し、対話コンテキストから抽出した情報を使用することで、知識選択とエンドツーエンドのパフォーマンスが向上することを示す。
論文参考訳（メタデータ） (2021-06-16T23:31:42Z)
Contextualized Knowledge-aware Attentive Neural Network: Enhancing Answer Selection with Knowledge [77.77684299758494]
ナレッジグラフ(KG)による外部知識による回答選択モデル向上のアプローチを幅広く検討しています。まず、KGの外部知識とテキスト情報との密接な相互作用を考慮し、QA文表現を学習するコンテキスト知識相互作用学習フレームワークであるナレッジアウェアニューラルネットワーク(KNN)を紹介します。 KG情報の多様性と複雑性に対処するために, カスタマイズされたグラフ畳み込みネットワーク (GCN) を介して構造情報を用いた知識表現学習を改善し, コンテキストベースおよび知識ベースの文表現を総合的に学習するコンテキスト型知識認識型アテンシブニューラルネットワーク (CKANN) を提案する。
論文参考訳（メタデータ） (2021-04-12T05:52:20Z)
Unstructured Knowledge Access in Task-oriented Dialog Modeling using Language Inference, Knowledge Retrieval and Knowledge-Integrative Response Generation [44.184890645068485]
外部知識に富んだダイアログシステムは、サポートするデータベース/APIの範囲外にあるユーザクエリを処理できる。タスク指向対話システムのパイプラインを構成するKDEAK, KnowleDgEFactor, Ens-GPTの3つのサブシステムを提案する。実験の結果,提案パイプラインシステムはベースラインを上回り,高品質な応答を生成することがわかった。
論文参考訳（メタデータ） (2021-01-15T11:24:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。