論文の概要: RuleRAG: Rule-guided retrieval-augmented generation with language models for question answering

• arxiv url: http://arxiv.org/abs/2410.22353v1
• Date: Tue, 15 Oct 2024 14:51:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-03 08:19:46.833638
• Title: RuleRAG: Rule-guided retrieval-augmented generation with language models for question answering
• Title（参考訳）: RuleRAG: 質問応答のための言語モデルを用いたルール誘導検索拡張生成
• Authors: Zhongwu Chen, Chengjin Xu, Dingmin Wang, Zhen Huang, Yong Dou, Jian Guo,
• Abstract要約: LMを用いたルールガイド型検索生成を提案する。 それは、レトリバーが規則の方向に論理的に関連のある文書を検索するように誘導する。 ジェネレータを一様に誘導し、同じルールの集合による回答を生成する。
• 参考スコア（独自算出の注目度）: 19.116208435764513
• License:
• Abstract: Retrieval-augmented generation (RAG) framework has shown promising potential in knowledge-intensive question answering (QA) by retrieving external corpus and generating based on augmented context. However, existing approaches only consider the query itself, neither specifying the retrieval preferences for the retrievers nor informing the generators of how to refer to the retrieved documents for the answers, which poses a significant challenge to the QA performance. To address these issues, we propose Rule-Guided Retrieval-Augmented Generation with LMs, which explicitly introduces symbolic rules as demonstrations for in-context learning (RuleRAG-ICL) to guide retrievers to retrieve logically related documents in the directions of rules and uniformly guide generators to generate answers attributed by the guidance of the same set of rules. Moreover, the combination of queries and rules can be further used as supervised fine-tuning data to update retrievers and generators (RuleRAG-FT) to achieve better rule-based instruction following capability, leading to retrieve more supportive results and generate more acceptable answers. To emphasize the attribution of rules, we construct five rule-aware QA benchmarks, including three temporal and two static scenarios, and equip RuleRAG with several kinds of retrievers and generators. Experiments demonstrate that training-free RuleRAG-ICL effectively improves the retrieval quality of +89.2% in Recall@10 scores and generation accuracy of +103.1% in exact match scores over standard RAG on average across the five benchmarks, and further fine-tuned RuleRAG-FT consistently yields more significant performance enhancement. Extensive analyses indicate that RuleRAG scales well with increasing numbers of retrieved documents and exhibits generalization ability for untrained rules.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG) フレームワークは、外部コーパスを検索し、拡張コンテキストに基づいて生成することで、知識集約型質問応答(QA)の有望な可能性を示している。 しかし、既存の手法ではクエリ自体を考慮せず、検索者の検索好みを指定したり、検索した文書を参照する方法を生成元に通知したりしないため、QAのパフォーマンスには大きな課題が生じる。 これらの問題に対処するために,ルールガイド付き検索拡張生成(LM)を提案する。これは,ルールの方向の論理的関連文書の検索と,同じルールセットのガイダンスによる回答を生成するために,検索者が論理的関連文書の検索を誘導するための,コンテキスト内学習(RuleRAG-ICL)のデモンストレーションとして,象徴的ルールを明示的に導入するものである。 さらに、クエリとルールの組み合わせは、レトリバーとジェネレータ(RuleRAG-FT)を更新するための教師付き微調整データとして、より優れたルールベースの命令追従能力を達成し、より支援的な結果を取得し、より受け入れられる回答を生成するために、さらに利用することができる。 ルールの属性を強調するために,3つの時間的シナリオと2つの静的シナリオを含む5つのルール対応QAベンチマークを構築し,複数のタイプの検索器とジェネレータを備える。 実験では、Recall@10スコアの+89.2%の検索品質と、標準RAGに対する正確なマッチスコアの+103.1%の精度を5つのベンチマークで効果的に改善し、さらに微調整されたR RuleRAG-FTは、より優れたパフォーマンス向上をもたらすことが示されている。 広範囲な分析から,ルールRAGは検索された文書の数の増加とともにスケールし,未学習の規則に対する一般化能力を示すことが示唆された。

関連論文リスト

• ArchRAG: Attributed Community-based Hierarchical Retrieval-Augmented Generation [16.204046295248546]
  Retrieval-Augmented Generation (RAG) は、外部知識を大規模言語モデルに統合するのに有効であることが証明されている。 我々は、Attributed Community-based Hierarchical RAG (ArchRAG)と呼ばれる新しいグラフベースのRAGアプローチを導入する。 属性付きコミュニティのための新しい階層型インデックス構造を構築し,効果的なオンライン検索手法を開発した。
  論文  参考訳（メタデータ） (2025-02-14T03:28:36Z)
• Chain-of-Retrieval Augmented Generation [72.06205327186069]
  本稿では,o1-like RAGモデルを学習し,最終回答を生成する前に段階的に関連情報を抽出・推論する手法を提案する。 提案手法であるCoRAGは,進化状態に基づいて動的にクエリを再構成する。
  論文  参考訳（メタデータ） (2025-01-24T09:12:52Z)
• Unanswerability Evaluation for Retrieval Augmented Generation [74.3022365715597]
  UAEval4RAGは、RAGシステムが解答不能なクエリを効果的に処理できるかどうかを評価するために設計されたフレームワークである。 我々は、6つの未解決カテゴリを持つ分類を定義し、UAEval4RAGは、多様で挑戦的なクエリを自動的に合成する。
  論文  参考訳（メタデータ） (2024-12-16T19:11:55Z)
• Toward General Instruction-Following Alignment for Retrieval-Augmented Generation [63.611024451010316]
  Retrieval-Augmented Generation (RAG) システムの効果的な適用には、自然な指示に従うことが不可欠である。 RAGシステムにおける命令追従アライメントのための,最初の自動化,拡張性,検証可能な合成パイプラインであるVIF-RAGを提案する。
  論文  参考訳（メタデータ） (2024-10-12T16:30:51Z)
• Retriever-and-Memory: Towards Adaptive Note-Enhanced Retrieval-Augmented Generation [72.70046559930555]
  本稿では,複雑なQAタスクに対する適応ノート拡張RAG(Adaptive Note-Enhanced RAG)と呼ばれる汎用RAGアプローチを提案する。 具体的には、Adaptive-Noteは、知識の成長に関する包括的な視点を導入し、ノート形式で新しい情報を反復的に収集する。 さらに,適切な知識探索を促進するために,適応的な音符ベースの停止探索戦略を用いて,「何を検索し,いつ停止するか」を判断する。
  論文  参考訳（メタデータ） (2024-10-11T14:03:29Z)
• Enhancing Retrieval in QA Systems with Derived Feature Association [0.0]
  Retrieval augmented generation (RAG) は、長い文脈質問応答(QA)システムにおいて標準となっている。 我々は、AI派生文書(RAIDD)からレトリーバル(Retrieval)と呼ばれるRAGシステムへの新たな拡張を提案する。
  論文  参考訳（メタデータ） (2024-10-02T05:24:49Z)
• SFR-RAG: Towards Contextually Faithful LLMs [57.666165819196486]
  Retrieval Augmented Generation (RAG) は、外部コンテキスト情報を大言語モデル(LLM)と統合し、事実の精度と妥当性を高めるパラダイムである。 SFR-RAG(SFR-RAG)について述べる。 また、複数の人気かつ多様なRAGベンチマークをコンパイルする新しい評価フレームワークであるConBenchについても紹介する。
  論文  参考訳（メタデータ） (2024-09-16T01:08:18Z)
• RNR: Teaching Large Language Models to Follow Roles and Rules [153.6596303205894]
  既存のIFT命令から多様な役割やルールを生成する自動データ生成パイプラインであるモデルを提案する。 このデータは、複雑なシステムプロンプトに従うモデルをトレーニングするために使用することができる。 我々のフレームワークは、大規模言語モデルにおける役割と規則に従う能力を大幅に改善します。
  論文  参考訳（メタデータ） (2024-09-10T06:07:32Z)
• Building Rule Hierarchies for Efficient Logical Rule Learning from Knowledge Graphs [20.251630903853016]
  本稿では,ルール階層を用いて非プロミッシングルールを抽出する新しい手法を提案する。 HPMの応用は非プロムルールの除去に有効であることを示す。
  論文  参考訳（メタデータ） (2020-06-29T16:33:30Z)
• Towards Learning Instantiated Logical Rules from Knowledge Graphs [20.251630903853016]
  本稿では,知識グラフから一階述語論理規則を抽出するために最適化された確率論的学習ルールGPFLを提案する。 GPFLは、抽出された経路を非循環的な抽象規則であるテンプレートに一般化する新しい2段階ルール生成機構を利用する。 オーバーフィッティングルールの存在、予測性能への影響、およびオーバーフィッティングルールをフィルタリングする単純なバリデーション手法の有効性を明らかにする。
  論文  参考訳（メタデータ） (2020-03-13T00:32:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。