論文の概要: Towards End-to-End Model-Agnostic Explanations for RAG Systems
- arxiv url: http://arxiv.org/abs/2509.07620v1
- Date: Tue, 09 Sep 2025 11:47:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-10 14:38:27.288288
- Title: Towards End-to-End Model-Agnostic Explanations for RAG Systems
- Title（参考訳）: RAGシステムのエンド・ツー・エンドモデル非依存的記述に向けて
- Authors: Viju Sudhi, Sinchana Ramakanth Bhat, Max Rudat, Roman Teucher, Nicolas Flores-Herr,
- Abstract要約: Retrieval Augmented Generation (RAG) システムは、モデル応答の信頼性を高めることで人気が高まっているにもかかわらず、しばしば信頼性と説明可能性に悩まされている。
本稿では、摂動に基づく手法を利用してRAGシステムにおける検索および生成プロセスを説明する新しい、全体論的、モデルに依存しない、ポストホックな説明フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 2.721963863801117
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval Augmented Generation (RAG) systems, despite their growing popularity for enhancing model response reliability, often struggle with trustworthiness and explainability. In this work, we present a novel, holistic, model-agnostic, post-hoc explanation framework leveraging perturbation-based techniques to explain the retrieval and generation processes in a RAG system. We propose different strategies to evaluate these explanations and discuss the sufficiency of model-agnostic explanations in RAG systems. With this work, we further aim to catalyze a collaborative effort to build reliable and explainable RAG systems.
- Abstract（参考訳）: Retrieval Augmented Generation (RAG) システムは、モデル応答の信頼性を高めることで人気が高まっているにもかかわらず、しばしば信頼性と説明可能性に悩まされている。
本稿では, 摂動に基づく手法を利用してRAGシステムにおける検索・生成プロセスを説明する新しい, 全体論的, モデルに依存しない, ポストホックな説明フレームワークを提案する。
本稿では、これらの説明を評価するための様々な戦略を提案し、RAGシステムにおけるモデルに依存しない説明の有効性について議論する。
本研究は,信頼性と説明可能なRAGシステムを構築するための共同作業の促進を目的としている。
関連論文リスト
- Towards Agentic RAG with Deep Reasoning: A Survey of RAG-Reasoning Systems in LLMs [69.10441885629787]
Retrieval-Augmented Generation (RAG) は、外部知識を注入することによって、Large Language Models (LLM) の事実性を高める。
逆に、純粋に推論指向のアプローチは、しばしば幻覚的あるいは誤った事実を必要とする。
この調査は両鎖を統一的推論-検索の観点から合成する。
論文 参考訳（メタデータ） (2025-07-13T03:29:41Z) - Reasoning RAG via System 1 or System 2: A Survey on Reasoning Agentic Retrieval-Augmented Generation for Industry Challenges [6.615766570234612]
Retrieval-Augmented Generation (RAG) は、大規模言語モデルの知識制限を克服する強力なフレームワークとして登場した。
これらの課題に対処するため、フィールドは推論エージェントRAG(Reasoning Agentic RAG)へと移行した。
論文 参考訳（メタデータ） (2025-06-12T07:01:56Z) - Synergizing RAG and Reasoning: A Systematic Review [8.842022673771147]
大規模言語モデル(LLM)の最近のブレークスルーは、レトリーバル強化世代(RAG)を前例のないレベルまで押し上げている。
本稿では,RAGと推論の協調的相互作用を体系的に検討する。
論文 参考訳（メタデータ） (2025-04-22T13:55:13Z) - Towards Trustworthy Retrieval Augmented Generation for Large Language Models: A Survey [92.36487127683053]
Retrieval-Augmented Generation (RAG)は、AIGC(AIGC)の課題に対処するために設計された高度な技術である。
RAGは信頼性と最新の外部知識を提供し、幻覚を減らし、幅広いタスクで関連するコンテキストを保証する。
RAGの成功と可能性にもかかわらず、最近の研究により、RAGパラダイムはプライバシーの懸念、敵対的攻撃、説明責任の問題など、新たなリスクももたらしていることが示されている。
論文 参考訳（メタデータ） (2025-02-08T06:50:47Z) - Unanswerability Evaluation for Retrieval Augmented Generation [74.3022365715597]
UAEval4RAGは、RAGシステムが解答不能なクエリを効果的に処理できるかどうかを評価するために設計されたフレームワークである。
我々は、6つの未解決カテゴリを持つ分類を定義し、UAEval4RAGは、多様で挑戦的なクエリを自動的に合成する。
論文 参考訳（メタデータ） (2024-12-16T19:11:55Z) - A Study on the Implementation Method of an Agent-Based Advanced RAG System Using Graph [0.0]
本研究では、グラフ技術に基づく高度なRAGシステムを実装し、高品質な生成AIサービスを開発する。
検索した情報の信頼性を評価するためにLangGraphを使用し、さまざまなデータを合成して、より正確で拡張されたレスポンスを生成する。
論文 参考訳（メタデータ） (2024-07-29T13:26:43Z) - Modular RAG: Transforming RAG Systems into LEGO-like Reconfigurable Frameworks [15.241520961365051]
Retrieval-augmented Generation (RAG)は、Large Language Models (LLM)の機能を大幅に強化した。
本稿では,既存のRAGパラダイムの限界について検討し,モジュール型RAGフレームワークを紹介する。
論文 参考訳（メタデータ） (2024-07-26T03:45:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。