論文の概要: Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2608.24977v1
• Date: Tue, 25 Aug 2026 16:18:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.328109
• Title: Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation
• Title（参考訳）: 回収できるが信頼性が低い: 回収可能世代における攻撃・防衛に関する調査
• Abstract要約: Retrieval-Augmented Generation (RAG)は、外部知識のアウトプットを基礎として、大規模言語モデルを強化する。 RAGは、コーパス中毒、バックドア攻撃、プライバシー漏洩、公正違反など、新たな堅牢性とセキュリティリスクを導入している。 この調査では、RAGの堅牢性について、統一的でパイプライン対応の概観を示す。
• 参考スコア（独自算出の注目度）: 28.613412927659684
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-Augmented Generation (RAG) enhances large language models by grounding outputs in external knowledge, improving factuality and reducing hallucinations. At the same time, the retrieval-augmented pipeline introduces new robustness and security risks, including corpus poisoning, backdoor attacks, privacy leakage, and fairness violations. Despite rapid progress in this area, existing surveys remain limited in their treatment of attacker objectives, threat models, and stage-specific defenses across the full RAG pipeline. This survey presents a unified and pipeline-aware overview of RAG robustness. We formalize threat models over the corpus, retriever, and generator, and organize attacks into three main objectives: accuracy, privacy, and fairness. We further review defenses from a pipeline-aware perspective, covering the retrieval, rerank, generation, and traceback stages. In addition, we summarize robustness benchmarks and explainability methods for more deeply evaluating and explaining RAG robustness.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、外部知識のアウトプットを基礎にして、事実性を改善し、幻覚を減らすことで、大きな言語モデルを強化する。 同時に、検索強化パイプラインは、コーパス中毒、バックドア攻撃、プライバシー漏洩、公正違反など、新たな堅牢性とセキュリティリスクを導入している。 この分野の急速な進歩にもかかわらず、既存の調査は攻撃目標、脅威モデル、RAGパイプライン全体にわたるステージ固有の防御の扱いに制限されている。 この調査では、RAGの堅牢性について、統一的でパイプライン対応の概観を示す。 我々は、コーパス、レトリバー、ジェネレータの脅威モデルを形式化し、攻撃を3つの主要な目的(正確性、プライバシー、公正性)にまとめる。 さらに、パイプライン対応の観点から、検索、リランク、生成、トレースバックのステージについて、ディフェンスをレビューします。 さらに、RAGの堅牢性をより深く評価し、説明するために、ロバストネスベンチマークと説明可能性メソッドを要約する。

関連論文リスト

• Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems [13.704144025810345]
  Retrieval-Augmented Generation (RAG) は、大規模言語モデルを外部知識で拡張するための支配的なパラダイムとして登場した。 この調査は、集中型、オンデバイス(Micro-RAG)、フェデレーション、ハイブリッドパラダイムにデプロイされたRAGシステムにわたる、プライバシーとセキュリティ上の課題に関する包括的な調査を提供する。
  論文  参考訳（メタデータ） (2026-06-24T08:08:10Z)
• Securing Retrieval-Augmented Generation: A Taxonomy of Attacks, Defenses, and Future Directions [11.303446110196525]
  Retrieval-augmented Generation (RAG)は大規模言語モデル(LLM)を大幅に強化する RAGは、外部の知識アクセスを通じて、新たなセキュリティリスクを導入する。 我々は、セキュアなRAGは基本的に外部知識アクセスパイプラインのセキュリティに関するものであることを提案する。
  論文  参考訳（メタデータ） (2026-04-09T14:38:18Z)
• Towards Secure Retrieval-Augmented Generation: A Comprehensive Review of Threats, Defenses and Benchmarks [21.880338678029503]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデルにおける幻覚とドメイン知識の欠如を、外部知識ベースを組み込むことによって著しく軽減する。 本稿では、その基盤となる脆弱性メカニズムを分析し、データ中毒、敵攻撃、メンバシップ推論攻撃などのコア脅威ベクトルを体系的に分類する。 潜在的なリスクについて深い洞察を得ることにより、この研究は、高度に堅牢で信頼性の高い次世代RAGシステムの開発を促進することを目指している。
  論文  参考訳（メタデータ） (2026-03-23T07:32:59Z)
• Benchmarking Knowledge-Extraction Attack and Defense on Retrieval-Augmented Generation [50.87199039334856]
  Retrieval-Augmented Generation (RAG) は知識集約型アプリケーションの基礎となっている。 近年の研究では、悪意あるクエリによって知識抽出攻撃が機密知識ベースコンテンツを回復できることが示されている。 本稿では,RAGシステムに対する知識抽出攻撃のための最初の体系的ベンチマークを紹介する。
  論文  参考訳（メタデータ） (2026-02-10T01:27:46Z)
• RAGPart & RAGMask: Retrieval-Stage Defenses Against Corpus Poisoning in Retrieval-Augmented Generation [43.85099769473328]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデルを強化するための有望なパラダイムとして登場した。 近年の研究では、悪意のある文書を検索コーパスに注入し、モデル出力を操作できるRAGパイプラインコーパス中毒の致命的な脆弱性が明らかにされている。 本稿では、RAGPartとRAGMaskの2つの相補的な検索ステージディフェンスを提案する。
  論文  参考訳（メタデータ） (2025-12-30T14:43:57Z)
• Rescuing the Unpoisoned: Efficient Defense against Knowledge Corruption Attacks on RAG Systems [11.812488957698038]
  大規模言語モデル(LLM)は私たちの日常生活の多くの側面を変え、Webベースのサービスとして広く採用されています。 検索・拡張生成(RAG)は,外部知識ソースに根ざした応答を生成することによって,将来性のある方向として登場した。 近年の研究では、誤情報注入による知識腐敗攻撃など、RAGの脆弱性が実証されている。 本稿では,知識汚職に対する資源効率のよい防御機構であるRAGDefenderを紹介する。
  論文  参考訳（メタデータ） (2025-11-03T06:39:58Z)
• Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
  既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。 我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。 評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
  論文  参考訳（メタデータ） (2025-06-06T17:33:33Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• Towards Trustworthy Retrieval Augmented Generation for Large Language Models: A Survey [92.36487127683053]
  Retrieval-Augmented Generation (RAG)は、AIGC(AIGC)の課題に対処するために設計された高度な技術である。 RAGは信頼性と最新の外部知識を提供し、幻覚を減らし、幅広いタスクで関連するコンテキストを保証する。 RAGの成功と可能性にもかかわらず、最近の研究により、RAGパラダイムはプライバシーの懸念、敵対的攻撃、説明責任の問題など、新たなリスクももたらしていることが示されている。
  論文  参考訳（メタデータ） (2025-02-08T06:50:47Z)
• Towards More Robust Retrieval-Augmented Generation: Evaluating RAG Under Adversarial Poisoning Attacks [45.07581174558107]
  Retrieval-Augmented Generation (RAG) システムは幻覚を緩和するための有望な解決策として登場した。 RAGシステムは、検索コーパスに注入された悪意のある通路が、モデルに誤った結果をもたらす可能性がある、敵の毒殺攻撃に対して脆弱である。 本稿では、RAGシステムがこのような攻撃下でどのように振る舞うか、その堅牢性がどのように改善されるかについて、厳密に制御された実証研究を示す。
  論文  参考訳（メタデータ） (2024-12-21T17:31:52Z)
• Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework [77.45983464131977]
  我々は、RAGモデルの予測が誤りであり、現実のアプリケーションにおいて制御不能なリスクをもたらす可能性がどの程度あるかに焦点を当てる。 本研究は,RAGの予測に影響を及ぼす2つの重要な潜伏要因を明らかにする。 我々は,これらの要因をモデルに誘導し,その応答に与える影響を解析する,反実的プロンプトフレームワークを開発した。
  論文  参考訳（メタデータ） (2024-09-24T14:52:14Z)
• Certifiably Robust RAG against Retrieval Corruption [58.677292678310934]
  Retrieval-augmented Generation (RAG) は、回復汚職攻撃に弱いことが示されている。 本稿では,ロバストRAGを検索汚職攻撃に対する最初の防御フレームワークとして提案する。
  論文  参考訳（メタデータ） (2024-05-24T13:44:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。