論文の概要: Enhancing Retrieval-Augmented Generation: A Study of Best Practices

• arxiv url: http://arxiv.org/abs/2501.07391v1
• Date: Mon, 13 Jan 2025 15:07:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-14 14:28:56.460507
• Title: Enhancing Retrieval-Augmented Generation: A Study of Best Practices
• Title（参考訳）: 検索機能強化型ジェネレーションの活用 : ベストプラクティスの検討
• Authors: Siran Li, Linus Stenzel, Carsten Eickhoff, Seyed Ali Bahrainian,
• Abstract要約: 我々は,クエリ拡張,新しい検索戦略,新しいコントラシティブ・インコンテクスト学習RAGを取り入れた高度なRAGシステム設計を開発する。 本研究は,言語モデルのサイズ,プロンプトデザイン,文書チャンクサイズ,知識ベースサイズ,検索ストライド,クエリ拡張手法,文レベルでのコンテキスト検索など,重要な要素を体系的に検討する。 本研究は,RAGシステムの開発に有効な知見を提供し,文脈的豊かさと検索・生成効率のバランスを図った。
• 参考スコア（独自算出の注目度）: 16.246719783032436
• License:
• Abstract: Retrieval-Augmented Generation (RAG) systems have recently shown remarkable advancements by integrating retrieval mechanisms into language models, enhancing their ability to produce more accurate and contextually relevant responses. However, the influence of various components and configurations within RAG systems remains underexplored. A comprehensive understanding of these elements is essential for tailoring RAG systems to complex retrieval tasks and ensuring optimal performance across diverse applications. In this paper, we develop several advanced RAG system designs that incorporate query expansion, various novel retrieval strategies, and a novel Contrastive In-Context Learning RAG. Our study systematically investigates key factors, including language model size, prompt design, document chunk size, knowledge base size, retrieval stride, query expansion techniques, Contrastive In-Context Learning knowledge bases, multilingual knowledge bases, and Focus Mode retrieving relevant context at sentence-level. Through extensive experimentation, we provide a detailed analysis of how these factors influence response quality. Our findings offer actionable insights for developing RAG systems, striking a balance between contextual richness and retrieval-generation efficiency, thereby paving the way for more adaptable and high-performing RAG frameworks in diverse real-world scenarios. Our code and implementation details are publicly available.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)システムは最近、検索機構を言語モデルに統合し、より正確で文脈的に関係のある応答を生成する能力を高めることで、顕著な進歩を見せている。 しかしながら、RAGシステム内の様々なコンポーネントや構成の影響は、いまだ解明されていない。 これらの要素の包括的理解は、複雑な検索タスクにRAGシステムを調整し、多様なアプリケーションにまたがる最適な性能を確保するために不可欠である。 本稿では,クエリ拡張,新しい検索戦略,コントラシティブ・インコンテクスト・ラーニングRAG(Contrastive In-Context Learning RAG)を取り入れた先進的なRAGシステムの設計について述べる。 本研究は,言語モデルのサイズ,迅速な設計,文書チャンクサイズ,知識ベースサイズ,検索行程,クエリ拡張テクニック,コントラスト型インコンテキスト学習知識ベース,多言語知識ベース,文レベルでのコンテキスト検索のためのフォーカスモードなど,重要な要素を体系的に検討する。 広範な実験を通じて、これらの要因が応答品質にどのように影響するかを詳細に分析する。 本研究は,RAGシステム開発に有効な知見を提供し,コンテキスト豊かさと検索・生成効率のバランスを崩し,現実の多様なシナリオにおいて,より適応的で高性能なRAGフレームワークを実現するための道を開いた。 コードと実装の詳細は公開されています。

関連論文リスト

• CORAL: Benchmarking Multi-turn Conversational Retrieval-Augmentation Generation [68.81271028921647]
  我々は,現実的なマルチターン対話環境におけるRAGシステム評価のためのベンチマークであるCORALを紹介する。 コラルにはウィキペディアから自動的に派生した多様な情報検索会話が含まれている。 対話型RAGの3つの中核的なタスク、すなわち、通過検索、応答生成、および引用ラベリングをサポートする。
  論文  参考訳（メタデータ） (2024-10-30T15:06:32Z)
• StructRAG: Boosting Knowledge Intensive Reasoning of LLMs via Inference-time Hybrid Information Structurization [94.31508613367296]
  Retrieval-augmented Generation(RAG)は、大規模言語モデル(LLM)を効果的に強化する鍵となる手段である。 本稿では,手前のタスクに対して最適な構造型を識別し,元の文書をこの構造化形式に再構成し,その結果に基づいて回答を推測するStructRAGを提案する。 実験の結果、StructRAGは最先端のパフォーマンスを実現し、特に挑戦的なシナリオに優れていた。
  論文  参考訳（メタデータ） (2024-10-11T13:52:44Z)
• A Comprehensive Survey of Retrieval-Augmented Generation (RAG): Evolution, Current Landscape and Future Directions [0.0]
  RAGは、検索機構と生成言語モデルを組み合わせることで、出力の精度を高める。 近年の研究では, 検索効率向上のための新しい手法が注目されている。 RAGモデルの堅牢性向上に焦点をあてた今後の研究方向性が提案されている。
  論文  参考訳（メタデータ） (2024-10-03T22:29:47Z)
• Wiping out the limitations of Large Language Models -- A Taxonomy for Retrieval Augmented Generation [0.46498278084317696]
  本研究の目的は,レトリーバル・拡張世代(RAG)の応用の包括的概要を概念化する分類学を作ることである。 我々の知る限りでは、これまでのRAGアプリケーションは開発されていない。
  論文  参考訳（メタデータ） (2024-08-05T22:34:28Z)
• Searching for Best Practices in Retrieval-Augmented Generation [31.438681543849224]
  Retrieval-augmented Generation (RAG) 技術は最新情報の統合に有効であることが証明されている。 本稿では,既存のRAG手法とその潜在的な組み合わせについて検討し,最適なRAG手法を同定する。 我々は、パフォーマンスと効率のバランスをとるRAGをデプロイするためのいくつかの戦略を提案する。
  論文  参考訳（メタデータ） (2024-07-01T12:06:34Z)
• Retrieval Meets Reasoning: Even High-school Textbook Knowledge Benefits Multimodal Reasoning [49.3242278912771]
  RMR(Retrieval Meets Reasoning)と呼ばれる新しいマルチモーダルRAGフレームワークについて紹介する。 RMRフレームワークは、最も関連性の高い問合せ対を特定するために、バイモーダル検索モジュールを使用する。 これは、ベンチマークデータセットのスペクトルにわたって様々なビジョン言語モデルの性能を大幅に向上させる。
  論文  参考訳（メタデータ） (2024-05-31T14:23:49Z)
• A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models [71.25225058845324]
  大規模言語モデル(LLM)は、言語理解と生成において革命的な能力を示している。 Retrieval-Augmented Generation (RAG)は、信頼性と最新の外部知識を提供する。 RA-LLMは、モデルの内部知識に頼るのではなく、外部および権威的な知識ベースを活用するために登場した。
  論文  参考訳（メタデータ） (2024-05-10T02:48:45Z)
• RAGGED: Towards Informed Design of Retrieval Augmented Generation Systems [51.171355532527365]
  Retrieval-augmented Generation (RAG) は言語モデル(LM)の性能を大幅に向上させる RAGGEDは、様々な文書ベースの質問応答タスクにわたるRAG構成を分析するためのフレームワークである。
  論文  参考訳（メタデータ） (2024-03-14T02:26:31Z)
• CRUD-RAG: A Comprehensive Chinese Benchmark for Retrieval-Augmented Generation of Large Language Models [49.16989035566899]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の能力を高める技術である。 本稿では,大規模かつ包括的なベンチマークを構築し,様々なRAGアプリケーションシナリオにおけるRAGシステムのすべてのコンポーネントを評価する。
  論文  参考訳（メタデータ） (2024-01-30T14:25:32Z)
• Retrieval-Augmented Generation for Large Language Models: A Survey [17.82361213043507]
  大きな言語モデル(LLM)には印象的な能力があるが、幻覚のような課題に直面している。 Retrieval-Augmented Generation (RAG) は,外部データベースからの知識を取り入れた,有望なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-18T07:47:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。