論文の概要: A Systematic Investigation of Knowledge Retrieval and Selection for Retrieval Augmented Generation

• arxiv url: http://arxiv.org/abs/2410.13258v1
• Date: Thu, 17 Oct 2024 06:30:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-18 13:20:13.951652
• Title: A Systematic Investigation of Knowledge Retrieval and Selection for Retrieval Augmented Generation
• Title（参考訳）: 検索能力向上のための知識検索と選択の体系的検討
• Authors: Xiangci Li, Jessica Ouyang,
• Abstract要約: 検索拡張生成(RAG)は,外部知識をモデル出力に統合することにより,自然言語生成を向上するための強力な手法として登場した。 本稿では,知識検索と選択がRAGシステムにおける下流生成性能にどのように影響するかを包括的に分析する。 その結果、下流ジェネレータモデルの能力とタスクとデータセットの複雑さは、知識検索と選択がRAGシステム全体の性能に与える影響に大きな影響を及ぼすことがわかった。
• 参考スコア（独自算出の注目度）: 12.039469573641217
• License:
• Abstract: Retrieval-augmented generation (RAG) has emerged as a powerful method for enhancing natural language generation by integrating external knowledge into a model's output. While prior work has demonstrated the importance of improving knowledge retrieval for boosting generation quality, the role of knowledge selection remains less clear. In this paper, we perform a comprehensive analysis of how knowledge retrieval and selection influence downstream generation performance in RAG systems. By simulating different retrieval and selection conditions through a controlled mixture of gold and distractor knowledge, we assess the impact of these factors on generation outcomes. Our findings indicate that the downstream generator model's capability, as well as the complexity of the task and dataset, significantly influence the impact of knowledge retrieval and selection on the overall RAG system performance. In typical scenarios, improving the knowledge recall score is key to enhancing generation outcomes, with the knowledge selector providing a limited additional benefit when a strong generator model is used on clear, well-defined tasks. For weaker generator models or more ambiguous tasks and datasets, the knowledge F1 score becomes a critical factor, and the knowledge selector plays a more prominent role in improving overall performance.
• Abstract（参考訳）: 検索拡張生成(RAG)は,外部知識をモデル出力に統合することにより,自然言語生成を向上するための強力な手法として登場した。 先行研究は、生成品質を高めるために知識検索を改善することの重要性を示してきたが、知識選択の役割は明らかになっていない。 本稿では,知識検索と選択がRAGシステムにおける下流生成性能にどのように影響するかを包括的に分析する。 制御されたゴールドとイントラクタの知識によって異なる検索条件と選択条件をシミュレートすることにより、これらの要因が生成結果に与える影響を評価する。 その結果、下流ジェネレータモデルの能力とタスクとデータセットの複雑さは、知識検索と選択がRAGシステム全体の性能に与える影響に大きな影響を及ぼすことがわかった。 典型的なシナリオでは、知識リコールスコアを改善することが生成結果を向上するための鍵であり、知識セレクタは、明確で明確に定義されたタスクで強力なジェネレータモデルを使用する場合に、限られた追加の利益を提供する。 より弱いジェネレータモデルやよりあいまいなタスクやデータセットでは、知識F1スコアが重要な要素となり、知識セレクタが全体的なパフォーマンスを改善する上でより顕著な役割を果たす。

関連論文リスト

• Towards Multi-Source Retrieval-Augmented Generation via Synergizing Reasoning and Preference-Driven Retrieval [4.862780562808097]
  既存のadaptive RAG (ARAG) システムは、適切なタイミングで適切なソースを選択することができないため、複数の検索ソースを効果的に探索するのに苦労している。 我々は,MSPRと呼ばれるマルチソースARAGフレームワークを提案し,推論と嗜好駆動型検索を相乗化して「いつ,何を検索すべきか」と「どの検索ソースを使うのか」を適応的に決定する。
  論文  参考訳（メタデータ） (2024-11-01T15:50:58Z)
• Retriever-and-Memory: Towards Adaptive Note-Enhanced Retrieval-Augmented Generation [72.70046559930555]
  本稿では,複雑なQAタスクに対する適応ノート拡張RAG(Adaptive Note-Enhanced RAG)と呼ばれる汎用RAGアプローチを提案する。 具体的には、Adaptive-Noteは、知識の成長に関する包括的な視点を導入し、ノート形式で新しい情報を反復的に収集する。 さらに,適切な知識探索を促進するために,適応的な音符ベースの停止探索戦略を用いて,「何を検索し,いつ停止するか」を判断する。
  論文  参考訳（メタデータ） (2024-10-11T14:03:29Z)
• Trustworthiness in Retrieval-Augmented Generation Systems: A Survey [59.26328612791924]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の開発において、急速に重要なパラダイムへと成長してきた。 本稿では,RAGシステムの信頼性を,事実性,堅牢性,公正性,透明性,説明責任,プライバシの6つの面で評価する統一的な枠組みを提案する。
  論文  参考訳（メタデータ） (2024-09-16T09:06:44Z)
• Introducing a new hyper-parameter for RAG: Context Window Utilization [0.0]
  RAGシステムは、外部知識ベースから取得した関連情報を組み込むことで、生成モデルを強化する。 検索および処理されたテキストチャンクのサイズは、RAG性能に影響を与える重要な要因である。 本研究の目的は,回答生成品質を最大化する最適チャンクサイズを特定することである。
  論文  参考訳（メタデータ） (2024-07-29T08:38:14Z)
• MATTER: Memory-Augmented Transformer Using Heterogeneous Knowledge Sources [12.783393023641505]
  我々は、MATTERと呼ばれる効率的なメモリ拡張変換器を導入する。 MATTERは、固定長のニューラルメモリの形で、非構造化ソース(パラグラフ)と半構造化ソース(QAペア)の両方から読み取る。 提案モデルでは,従来のQAベンチマークにおいて,精度と速度の両面で,既存の効率的な検索強化モデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-06-07T06:35:37Z)
• ERAGent: Enhancing Retrieval-Augmented Language Models with Improved Accuracy, Efficiency, and Personalization [14.62114319247837]
  ERAGentはRAG領域の進歩を具現化した最先端のフレームワークである。 Retrieval Triggerは、応答品質を犠牲にすることなく、外部知識検索を効率化するために組み込まれている。 ERAGentは学習したユーザプロファイルを組み込むことで応答をパーソナライズする。
  論文  参考訳（メタデータ） (2024-05-06T04:42:18Z)
• Enhancing Generative Class Incremental Learning Performance with Model Forgetting Approach [50.36650300087987]
  本研究は, ジェネレーティブ・クラス・インクリメンタル・ラーニング(GCIL, Generative Class Incremental Learning)への新たなアプローチを提案する。 我々は, 忘れる機構の統合により, 新たな知識獲得におけるモデルの性能が著しく向上することを発見した。
  論文  参考訳（メタデータ） (2024-03-27T05:10:38Z)
• Data-Centric Long-Tailed Image Recognition [49.90107582624604]
  ロングテールモデルは高品質なデータに対する強い需要を示している。 データ中心のアプローチは、モデルパフォーマンスを改善するために、データの量と品質の両方を強化することを目的としています。 現在、情報強化の有効性を説明するメカニズムに関する研究が不足している。
  論文  参考訳（メタデータ） (2023-11-03T06:34:37Z)
• Well Begun is Half Done: Generator-agnostic Knowledge Pre-Selection for Knowledge-Grounded Dialogue [24.395322923436026]
  本研究は,事前知識を正確に選択できるだけでなく,学習,調整,解釈の負担を軽減できるという利点がある第3のアンダーサーサーサーサーサーサーサーサーサー研究に焦点をあてる。 本稿では,ジェネレータに依存しない知識選択手法であるGATEを提案する。
  論文  参考訳（メタデータ） (2023-10-11T17:00:29Z)
• Enhancing Retrieval-Augmented Large Language Models with Iterative Retrieval-Generation Synergy [164.83371924650294]
  検索と生成を反復的に同期させるIter-RetGenと呼ばれる手法により,高い性能が得られることを示す。 モデル出力は、タスクを完了するために必要なものを示し、より関連する知識を取得するための情報的コンテキストを提供する。 Iter-RetGenプロセスは、すべての知識を全体として取得し、構造的な制約なしに生成時の柔軟性をほとんど保持します。
  論文  参考訳（メタデータ） (2023-05-24T16:17:36Z)
• Knowledge-driven Data Construction for Zero-shot Evaluation in Commonsense Question Answering [80.60605604261416]
  本稿では,共通認識課題にまたがるゼロショット質問応答のための新しいニューラルシンボリック・フレームワークを提案する。 言語モデル、トレーニング体制、知識ソース、データ生成戦略のセットを変えて、タスク間の影響を測定します。 個別の知識グラフは特定のタスクに適しているが、グローバルな知識グラフはさまざまなタスクに対して一貫した利得をもたらす。
  論文  参考訳（メタデータ） (2020-11-07T22:52:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。