論文の概要: Protection Is Not One Event: A Survey of RAG Protection Research by Measured Endpoint

• arxiv url: http://arxiv.org/abs/2610.30193v1
• Date: Wed, 21 Oct 2026 06:17:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.081313
• Title: Protection Is Not One Event: A Survey of RAG Protection Research by Measured Endpoint
• Title（参考訳）: 安全は1つの事象ではない:計測エンドポイントによるRAG保護研究の調査
• Abstract要約: Retrieval-augmented Generation (RAG) システムは、セキュリティ、プライバシー、著作権のリスクに直面している。 しかし、RAG保護研究では、互換性のない評価指標、データセット、脅威モデルを使用している。 我々は,全文確認されたRAG防衛文書118件の体系的調査と人為的証拠マップを提示する。
• 参考スコア（独自算出の注目度）: 23.89156074149801
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-augmented generation (RAG) systems face security, privacy, and copyright risks including content leakage, source reconstruction, unauthorized access, data poisoning, and prompt injection. Yet RAG protection studies use incompatible evaluation metrics, datasets, and threat models. We present a systematic survey and human-coded evidence map of 118 full-text-confirmed RAG defense papers, organized by measured endpoint rather than claimed goal or defense mechanism. Our seven-family taxonomy covers content disclosure, formal privacy proxies, access control and suppression, corpus-use detection, and pipeline integrity and attribution. Thirty-two annotators double-coded the papers kappa=0.867. The survey identifies three gaps. First, retrieval reranking and context rewriting each span five or six endpoint families, so mechanisms do not identify protection outcomes. Second, only 17.8% of studies use content disclosure or reconstruction as their primary endpoint; under the frozen copyright/ownership relation label, 73.3% of records have corpus-use detection as their primary endpoint, and none have an emitted-expression primary endpoint. Third, most evaluations use general-purpose question-answering datasets and non-adaptive attacks rather than sensitive data and adaptive, multi-turn extraction. Our controlled RAG testbed shows that preventing verbatim copying does not prevent private-fact recovery: a normalized 8-gram guard reduces 20-token copying to 0.0%, but a three-query adaptive attacker recovers 48.3% of hidden facts on Qwen3-8B. We release the taxonomy, dataset, coding protocols, and testbed to enable comparable, claim-aligned RAG security evaluation.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG) システムは、コンテンツの漏洩、ソース復元、不正アクセス、データ中毒、即時注入など、セキュリティ、プライバシー、著作権のリスクに直面している。 しかし、RAG保護研究では、互換性のない評価指標、データセット、脅威モデルを使用している。 本稿では,118個の全文確認RAG防衛文書の体系的調査と人為的エビデンスマップについて述べる。 私たちの7つの分類は、コンテンツの開示、正式なプライバシープロキシ、アクセス制御と抑制、コーパス使用の検出、パイプラインの完全性と属性をカバーしています。 Kappa=0.867は32の注釈で二重コード化されている。 調査は3つのギャップを特定します。 まず、検索のリランクとコンテキストのリライトは5つか6つのエンドポイントファミリーにまたがるため、メカニズムは保護結果を特定しない。 第2に、コンテンツ開示や再構成を第一のエンドポイントとして使用する研究は17.8%に過ぎず、凍結した著作権/所有権関係ラベルの下では73.3%のレコードが第一のエンドポイントとしてコーパス・ユースを検知しており、出力されたプライマリ・エンドポイントは存在しない。 第3に、ほとんどの評価では、センシティブなデータや適応的なマルチターン抽出よりも、汎用的な質問応答データセットと非適応的な攻撃を用いる。 正規化された8-gramガードは20-tokenコピーを0.0%に削減するが、3-queryアダプティブアタックはQwen3-8Bで48.3%の隠蔽事実を回復する。 分類、データセット、コーディングプロトコル、テストベッドを公開し、同等のクレーム整合RAGセキュリティ評価を可能にします。

関連論文リスト

• How Ground Truth Shapes Retrieval Scores: Evidence-Aware Evaluation of a Retrieval-Augmented Generation System for Breast Lesions [0.0]
  128から1024のトークンのチャンク、0から20%の重複、および4つのレトリバー構成を評価した。 R-Precision, Recall@K, MRR, nDCG@Kを用いて検索を行った。 クロスエンコーダの順位は最も高い検索スコアを得た。
  論文  参考訳（メタデータ） (2026-10-22T17:36:14Z)
• LLM-Attack Suite: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems [0.0]
  LLM-Attack Suiteは攻撃者の選択を記録し、研究者が評価を確認し、比較し、拡張できるフレームワークである。 各プライバシクレームは、攻撃者、データセット、スコアリングルールを記述し、そのコントロールを報告し、未テストの攻撃を識別する必要がある。 ここでは、アタッカーアクセスの変化に対する評価がどのように反応するかをテストする。
  論文  参考訳（メタデータ） (2026-10-15T22:53:45Z)
• Lineage-Aware Memory Governance: A Derivation-Gated Framework for Privacy-Preserving Column-Level Access Control in Enterprise AI Agents [0.0]
  メモリストアを共有するエンタープライズAIエージェントは、2つの未対応のリスクに直面している。 機密データは 正当に計算された結果から 漏れる可能性がある 要求者は 導出できない 部署は論理の矛盾により、同じ名前のキーパフォーマンス指標(KPI)を静かに計算できる。 キャッシュされたすべての結果に完全な導出(線形グラフ)を付加するメモリスキーマであるAMU(Analytical Memory Unit)を導入する。
  論文  参考訳（メタデータ） (2026-10-05T18:56:56Z)
• StegoMemory: Agentic Memory Acts as Covert Steganographic Channel [1.0515290697720685]
  エージェントが攻撃者が制御する文字列を1セッションでエンコードし、安全性を損なうことなく別のセッションで復元できるかどうかをテストする。 我々は91のモデルアタック構成、13のモデル、7のステガノグラフスキームにまたがる14,000のアタックトライアルを試験した。 その結果,エージェントメモリは永続的なクロスセッションサーキットチャネルとして機能することが示された。
  論文  参考訳（メタデータ） (2026-10-03T15:23:18Z)
• Claim-Selective Certification for High-Risk Medical Retrieval-Augmented Generation [0.0]
  混在した証拠は、ある主張を支持し、別の主張の条件を必要とし、第三の主張に矛盾する可能性がある。 我々は、クレーム選択応答を検証可能なクレームに検証し、回収された証拠に対して評価し、インテントを意識したセレクタによって完全な、部分的、紛争、棄却にマッピングする。 結果として生じるインターフェースは、アクションラベル予測と、混在する証拠の下でのエビデンスリンクされたクレーム選択を分離する。
  論文  参考訳（メタデータ） (2026-05-21T03:29:50Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Conformal Prediction for Privacy-Preserving Machine Learning [83.88591755871734]
  AESで暗号化されたMNISTデータセットの変種を用いて、暗号化されたドメインに直接適用しても、コンフォーマル予測法が有効であることを示す。 我々の研究は、安全でプライバシーに配慮した学習システムにおける原則的不確実性定量化の基礎を定めている。
  論文  参考訳（メタデータ） (2025-07-13T15:29:14Z)
• DATABench: Evaluating Dataset Auditing in Deep Learning from an Adversarial Perspective [70.77570343385928]
  内的特徴(IF)と外的特徴(EF)(監査のための技術導入)に依存した既存手法の分類を新たに導入する。 回避攻撃(evasion attack)は、データセットの使用を隠蔽するために設計されたもので、偽造攻撃(forgery attack)は、未使用のデータセットを誤って含んでいることを意図している。 さらに,既存手法の理解と攻撃目標に基づいて,回避のための分離・除去・検出,偽造の逆例に基づく攻撃方法など,系統的な攻撃戦略を提案する。 私たちのベンチマークであるData dataBenchは、17の回避攻撃、5の偽攻撃、9の攻撃で構成されています。
  論文  参考訳（メタデータ） (2025-07-08T03:07:15Z)
• Dataset Protection via Watermarked Canaries in Retrieval-Augmented LLMs [67.0310240737424]
  本稿では,テキストデータセットの所有権を保護し,RA-LLMによる不正使用を効果的に検出するための新しいアプローチを提案する。 提案手法では,IPデータセットに特別に設計されたカナリア文書を挿入することにより,元のデータを完全に変更することなく保護する。 検出プロセス中、カナリア文書をクエリし、RA-LLMの応答を分析することにより、不正使用を識別する。
  論文  参考訳（メタデータ） (2025-02-15T04:56:45Z)
• CopyrightShield: Enhancing Diffusion Model Security against Copyright Infringement Attacks [61.06621533874629]
  拡散モデルは、攻撃者が戦略的に修正された非侵害画像をトレーニングセットに注入する著作権侵害攻撃に弱い。 まず、上記の攻撃に対して防御するための防御フレームワーク、PhiliptyShieldを提案する。 実験により,PhiliptyShieldは2つの攻撃シナリオで有毒なサンプル検出性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-12-02T14:19:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。