論文の概要: PRA-RAG: Provably Robust Aggregation in Retrieval-Augmented Generation against Retrieval Corruption

• arxiv url: http://arxiv.org/abs/2607.00012v1
• Date: Fri, 08 May 2026 10:35:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:12.968227
• Title: PRA-RAG: Provably Robust Aggregation in Retrieval-Augmented Generation against Retrieval Corruption
• Title（参考訳）: PRA-RAG:Retrieval-Augmented Generation におけるRetrieval Corruption に対するロバスト集約
• Abstract要約: Retrieval-Augmented Generation (RAG)は、外部知識を取り入れることで、Large Language Models (LLM)を強化する。 RAGは、検索されたテキストを操作してモデル出力を誤解させる中毒攻撃に弱いままである。 PRA-RAG(PRA-RAG)は,検索したテキストに対する有害な攻撃を防ぎ,確実に堅牢な検索アルゴリズムである。
• 参考スコア（独自算出の注目度）: 16.318129206157685
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-Augmented Generation (RAG) enhances Large Language Models (LLMs) by incorporating external knowledge, effectively mitigating their inherent knowledge limitations. However, RAG remains vulnerable to poisoning attacks that manipulate retrieved texts to mislead model outputs. Existing defense mechanisms often lack theoretical robustness guarantees and perform unreliably when the LLM has limited knowledge of the retrieved content. In this work, we propose PRA-RAG, a provably robust retrieval aggregation algorithm designed to defend against poisoning attacks on retrieved texts. PRA-RAG samples multiple combinations of retrieved texts and utilizes geometric structures in the embedding space to identify a robust subset, from which a stable aggregated representation is derived. We provide theoretical bounds on the maximum impact of poisoned retrieved content and establish a quantitative measure of RAG's robustness. Experiments across multiple benchmarks and RAG architectures demonstrate that PRA-RAG reduces the attack success rate to as low as 1% while maintaining an accuracy of 71%, significantly outperforming representative state-of-the-art methods.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、外部知識を組み込むことで、Large Language Models (LLM)を強化し、その固有の知識制限を効果的に緩和する。 しかしながら、RAGは、検索されたテキストを操作してモデル出力を誤解させる中毒攻撃に対して脆弱なままである。 既存の防御機構は理論的な堅牢性の保証を欠くことが多く、LLMが検索した内容の知識が限られている場合、信頼性に欠ける。 本研究では,PRA-RAGを提案する。PRA-RAGは,検索したテキストに対する有害な攻撃を防ぐために設計された,堅牢な検索集約アルゴリズムである。 PRA-RAGは、検索されたテキストの複数の組み合わせをサンプリングし、埋め込み空間における幾何学的構造を利用して、安定な集約表現が導出されるロバストなサブセットを識別する。 我々は, 有毒な回収液の最大影響を理論的に把握し, RAGのロバスト性を定量的に測定する。 複数のベンチマークとRAGアーキテクチャによる実験により、PRA-RAGは攻撃成功率を1%まで下げる一方、精度は71%であり、最先端の手法よりも著しく優れていた。

関連論文リスト

• Transforming External Knowledge into Triplets for Enhanced Retrieval in RAG of LLMs [55.78708003681562]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)における幻覚を、生成時に外部知識を取り入れることで緩和する。 既存のRAGアプローチは通常、コンテキストとしてテキストフラグメントを検索し、非構造化する。 本稿では,三重項に基づく検索フレームワークTri-RAGを提案する。
  論文  参考訳（メタデータ） (2026-04-14T11:36:29Z)
• Connect the Dots: Knowledge Graph-Guided Crawler Attack on Retrieval-Augmented Generation Systems [14.028345839891855]
  Retrieval-augmented Generation (RAG) システムは、文書検索と大きな言語モデルを統合する。 RAGは新たなプライバシーリスクを導入している: 敵は慎重に構築されたクエリを発行し、センシティブなコンテンツを徐々に流出させる。 RAGCRAWLERは,情報公開のための知識グラフを構築し,未検索領域を対象としたセマンティック空間でのクエリを計画する。
  論文  参考訳（メタデータ） (2026-01-22T05:59:42Z)
• M-RAG: Making RAG Faster, Stronger, and More Efficient [15.147969102210759]
  大規模言語モデルのための新しいチャンクフリー検索戦略であるM-RAGを提案する。 M-RAGは構造化されたk-v分解メタマーカーを軽量で意図に整合した検索キーで抽出する。 M-RAGは高い効率で解答フレンドリーな証拠を回収できることを示す。
  論文  参考訳（メタデータ） (2026-01-06T15:14:54Z)
• Rescuing the Unpoisoned: Efficient Defense against Knowledge Corruption Attacks on RAG Systems [11.812488957698038]
  大規模言語モデル(LLM)は私たちの日常生活の多くの側面を変え、Webベースのサービスとして広く採用されています。 検索・拡張生成(RAG)は,外部知識ソースに根ざした応答を生成することによって,将来性のある方向として登場した。 近年の研究では、誤情報注入による知識腐敗攻撃など、RAGの脆弱性が実証されている。 本稿では,知識汚職に対する資源効率のよい防御機構であるRAGDefenderを紹介する。
  論文  参考訳（メタデータ） (2025-11-03T06:39:58Z)
• ReliabilityRAG: Effective and Provably Robust Defense for RAG-based Web-Search [69.60882125603133]
  本稿では,検索した文書の信頼性情報を明確に活用する,敵対的堅牢性のためのフレームワークであるReliabilityRAGを提案する。 我々の研究は、RAGの回収されたコーパスの腐敗に対するより効果的で確実に堅牢な防御に向けた重要な一歩である。
  論文  参考訳（メタデータ） (2025-09-27T22:36:42Z)
• CPA-RAG:Covert Poisoning Attacks on Retrieval-Augmented Generation in Large Language Models [15.349703228157479]
  Retrieval-Augmented Generation (RAG)は、外部知識を取り入れた大規模言語モデル(LLM)を強化する。 既存のRAGシステムに対する中毒法には、一般化の欠如や、敵のテキストにおける流布の欠如など、制限がある。 CPA-RAGは,検索プロセスを操作することで,対象の回答を誘導するクエリ関連テキストを生成するブラックボックスの対向フレームワークである。
  論文  参考訳（メタデータ） (2025-05-26T11:48:32Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
  Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。 AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework [77.45983464131977]
  我々は、RAGモデルの予測が誤りであり、現実のアプリケーションにおいて制御不能なリスクをもたらす可能性がどの程度あるかに焦点を当てる。 本研究は,RAGの予測に影響を及ぼす2つの重要な潜伏要因を明らかにする。 我々は,これらの要因をモデルに誘導し,その応答に与える影響を解析する,反実的プロンプトフレームワークを開発した。
  論文  参考訳（メタデータ） (2024-09-24T14:52:14Z)
• Certifiably Robust RAG against Retrieval Corruption [58.677292678310934]
  Retrieval-augmented Generation (RAG) は、回復汚職攻撃に弱いことが示されている。 本稿では,ロバストRAGを検索汚職攻撃に対する最初の防御フレームワークとして提案する。
  論文  参考訳（メタデータ） (2024-05-24T13:44:25Z)
• Typos that Broke the RAG's Back: Genetic Attack on RAG Pipeline by Simulating Documents in the Wild via Low-level Perturbations [9.209974698634175]
  Retrieval-Augmented Generation (RAG) は、Large Language Models (LLM) の限界に対処するための有望なソリューションである。 本研究では,RAGのロバスト性評価における2つの未解明点について検討する。 本稿では,RAG(textitGARAG)を標的とした新たな攻撃手法を提案する。
  論文  参考訳（メタデータ） (2024-04-22T07:49:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。