論文の概要: Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems
- arxiv url: http://arxiv.org/abs/2606.25533v1
- Date: Wed, 24 Jun 2026 08:08:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.273987
- Title: Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems
- Title（参考訳）: 検索型世代におけるセキュリティとプライバシ - 信頼できるシステム構築のためのアーキテクチャ、脅威、防衛、今後の方向性
- Abstract要約: Retrieval-Augmented Generation (RAG) は、大規模言語モデルを外部知識で拡張するための支配的なパラダイムとして登場した。
この調査は、集中型、オンデバイス(Micro-RAG)、フェデレーション、ハイブリッドパラダイムにデプロイされたRAGシステムにわたる、プライバシーとセキュリティ上の課題に関する包括的な調査を提供する。
- 参考スコア（独自算出の注目度）: 13.704144025810345
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-Augmented Generation (RAG) has emerged as a dominant paradigm for enhancing large language models with external knowledge. By coupling retrieval mechanisms with generative models, RAG systems improve factual grounding and adaptability across domains. However, integrating retrieval pipelines introduces new security and privacy risks that extend beyond conventional language modeling threats. Sensitive information may be exposed through retrieval indices, query logs, context construction, or federated updates, while adversarial manipulation of knowledge bases can undermine trust in generated outputs. This survey provides a comprehensive examination of privacy and security challenges across RAG systems deployed in centralized, on-device (Micro-RAG), federated, and hybrid paradigms. We present a unified taxonomy of threat surfaces spanning the retrieval, context construction, and generation stages and systematically analyze attack classes, including membership inference, index inference, poisoning, gradient leakage, and collusion. We further review architectural, algorithmic, and cryptographic defenses, highlighting privacy-utility trade-offs and deployment considerations. Finally, we outline open research challenges toward building trustworthy, secure, and resilient RAG systems for real-world applications.
- Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、大規模言語モデルを外部知識で拡張するための支配的なパラダイムとして登場した。
生成モデルと検索機構を結合することにより、RAGシステムは領域間の現実的な接地と適応性を向上する。
しかし、検索パイプラインの統合は、従来の言語モデリングの脅威を超えて、新たなセキュリティとプライバシのリスクをもたらす。
センシティブな情報は検索指標、クエリログ、コンテキスト構築、フェデレートされた更新を通じて露呈し、知識ベースに対する敵対的な操作は生成された出力に対する信頼を損なう可能性がある。
この調査は、集中型、オンデバイス(Micro-RAG)、フェデレーション、ハイブリッドパラダイムにデプロイされたRAGシステムにわたる、プライバシーとセキュリティ上の課題に関する包括的な調査を提供する。
本稿では,検索,コンテキスト構築,生成段階にまたがる脅威表面の統一分類を提示し,会員推定,索引推論,中毒,勾配漏洩,共謀などの攻撃クラスを体系的に分析する。
さらに、アーキテクチャ、アルゴリズム、暗号化の防御についてレビューし、プライバシとユーティリティのトレードオフとデプロイメントの考慮を強調します。
最後に、現実のアプリケーションのための信頼性、セキュア、レジリエントなRAGシステムを構築するためのオープンな研究課題について概説する。
関連論文リスト
- Trustworthy Agentic AI: A Comprehensive Cybersecurity and Systems Survey on Threat Landscapes, Defense Architectures, and Open Challenges [0.0]
この調査は、信頼できるエージェントAIのための総合的なシステムセキュリティリファレンスフレームワークを提供する。
汎用エージェントアーキテクチャをステートフルな5タプルとして形式化し,セキュリティ,安全性,プライバシ,説明可能性,公正性,説明責任を網羅した6次元信頼性分類を確立した。
論文 参考訳（メタデータ） (2026-09-12T05:51:27Z) - Towards Secure Retrieval-Augmented Generation: A Comprehensive Review of Threats, Defenses and Benchmarks [21.880338678029503]
Retrieval-Augmented Generation (RAG)は、大規模言語モデルにおける幻覚とドメイン知識の欠如を、外部知識ベースを組み込むことによって著しく軽減する。
本稿では、その基盤となる脆弱性メカニズムを分析し、データ中毒、敵攻撃、メンバシップ推論攻撃などのコア脅威ベクトルを体系的に分類する。
潜在的なリスクについて深い洞察を得ることにより、この研究は、高度に堅牢で信頼性の高い次世代RAGシステムの開発を促進することを目指している。
論文 参考訳（メタデータ） (2026-03-23T07:32:59Z) - Benchmarking Knowledge-Extraction Attack and Defense on Retrieval-Augmented Generation [50.87199039334856]
Retrieval-Augmented Generation (RAG) は知識集約型アプリケーションの基礎となっている。
近年の研究では、悪意あるクエリによって知識抽出攻撃が機密知識ベースコンテンツを回復できることが示されている。
本稿では,RAGシステムに対する知識抽出攻撃のための最初の体系的ベンチマークを紹介する。
論文 参考訳（メタデータ） (2026-02-10T01:27:46Z) - SoK: Privacy Risks and Mitigations in Retrieval-Augmented Generation Systems [53.51921540246166]
Retrieval-Augmented Generation (RAG)技術は広く普及している。
RAGには、Large Language Models(LLM)とドメイン固有の知識ベースとの結合が含まれる。
RAGの普及は、データのプライバシに関する懸念を引き起こしている。
論文 参考訳（メタデータ） (2026-01-07T14:50:41Z) - RAG Security and Privacy: Formalizing the Threat Model and Attack Surface [4.823988025629304]
Retrieval-Augmented Generation (RAG) は、大規模言語モデル(LLM)と外部文書検索を組み合わせて、より正確で基礎的な応答を生成する自然言語処理における新興のアプローチである。
既存の研究では、RAGがトレーニングデータ記憶や敵対的プロンプトを通じて機密情報を漏洩し、RAGシステムがこれらの脆弱性の多くを継承していることが示されている。
これらのリスクにもかかわらず、現在、RAGシステムの脅威状況を定義する公式なフレームワークは存在しない。
論文 参考訳（メタデータ） (2025-09-24T17:11:35Z) - A Systematic Review of Key Retrieval-Augmented Generation (RAG) Systems: Progress, Gaps, and Future Directions [1.4931265249949528]
Retrieval-Augmented Generation (RAG)は自然言語処理(NLP)における大きな進歩である
RAGは、大規模言語モデル(LLM)と情報検索システムを組み合わせて、事実的根拠付け、正確性、文脈的関連性を高める。
本稿ではRAGの体系的なレビューを行い、最近の最先端実装に対するオープンドメイン質問の早期展開から進化を辿る。
論文 参考訳（メタデータ） (2025-07-25T03:05:46Z) - Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。
FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。
モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
論文 参考訳（メタデータ） (2025-04-27T04:26:02Z) - Towards Trustworthy Retrieval Augmented Generation for Large Language Models: A Survey [92.36487127683053]
Retrieval-Augmented Generation (RAG)は、AIGC(AIGC)の課題に対処するために設計された高度な技術である。
RAGは信頼性と最新の外部知識を提供し、幻覚を減らし、幅広いタスクで関連するコンテキストを保証する。
RAGの成功と可能性にもかかわらず、最近の研究により、RAGパラダイムはプライバシーの懸念、敵対的攻撃、説明責任の問題など、新たなリスクももたらしていることが示されている。
論文 参考訳（メタデータ） (2025-02-08T06:50:47Z) - Trustworthiness in Retrieval-Augmented Generation Systems: A Survey [59.26328612791924]
Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の開発において、急速に重要なパラダイムへと成長してきた。
本稿では,RAGシステムの信頼性を,事実性,堅牢性,公正性,透明性,説明責任,プライバシの6つの面で評価する統一的な枠組みを提案する。
論文 参考訳（メタデータ） (2024-09-16T09:06:44Z) - "Glue pizza and eat rocks" -- Exploiting Vulnerabilities in Retrieval-Augmented Generative Models [74.05368440735468]
Retrieval-Augmented Generative (RAG)モデルにより大規模言語モデル(LLM)が強化される
本稿では,これらの知識基盤の開放性を敵が活用できるセキュリティ上の脅威を示す。
論文 参考訳（メタデータ） (2024-06-26T05:36:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。