論文の概要: Is External Database Protection Static in Retrieval-Augmented Generation? Rethinking Privacy Preservation under Dynamic Queries
- arxiv url: http://arxiv.org/abs/2607.14811v1
- Date: Thu, 16 Jul 2026 10:28:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.075254
- Title: Is External Database Protection Static in Retrieval-Augmented Generation? Rethinking Privacy Preservation under Dynamic Queries
- Title（参考訳）: 検索拡張世代における外部データベース保護は静的か?動的クエリ下でのプライバシ保護を再考する
- Abstract要約: 本稿では,プライバシ保護RAGのためのPrompt-Aware Dynamic Hierarchical Differential Privacy framework (PA-HDP)を提案する。
PA-HDPはまず、異なるクエリ下でのプライバシーリスクを動的に評価するために、プロンプト対応のリスク階層を実行する。
次に、アダプティブなエンティティ置換と指数関数的なメカニズムベースのテキスト選択を適用し、セマンティックユーティリティを保持しながら、区別されたプライバシ保護を提供する。
- 参考スコア（独自算出の注目度）: 4.887023619756181
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Retrieval-augmented generation (RAG) enhances large language models via external document retrieval, but retrieved contexts may leak sensitive information. Current privacy protection methods typically rely on a document-level static risk assumption, treating all retrieved documents as having the same privacy leakage risk. However, this assumption overlooks a fundamental characteristic of RAG: the privacy risk of a document is highly dependent on the user's query, making privacy leakage inherently query-driven and dynamic. To address this challenge, we propose a Prompt-Aware Dynamic Hierarchical Differential Privacy framework (PA-HDP) for privacy-preserving RAG. PA-HDP first performs a prompt-aware risk hierarchy to dynamically assess privacy risks under different queries. It then applies adaptive sensitive entity replacement and exponential mechanism-based text selection to provide differentiated privacy protection while preserving semantic utility. By protecting only the content that is truly sensitive under a given query, PA-HDP minimizes unnecessary modifications to the retrieval corpus. Extensive experiments on benchmark datasets demonstrate that PA-HDP significantly reduces privacy leakage while maintaining high retrieval quality, achieving a better privacy-utility trade-off than prior methods.
- Abstract（参考訳）: Retrieval-augmented Generation (RAG)は、外部文書検索を通じて大きな言語モデルを強化するが、検索されたコンテキストは機密情報を漏洩させる可能性がある。
現在のプライバシー保護手法は、典型的にはドキュメントレベルの静的リスク仮定に依存し、取得したすべてのドキュメントを、同じプライバシー漏洩リスクを持つものとして扱う。
ドキュメントのプライバシーリスクはユーザのクエリに大きく依存しており、プライバシリークを本質的にクエリ駆動で動的にする。
この課題に対処するために、プライバシ保存RAGのためのPrompt-Aware Dynamic Hierarchical Differential Privacy framework (PA-HDP)を提案する。
PA-HDPはまず、異なるクエリ下でのプライバシーリスクを動的に評価するために、プロンプト対応のリスク階層を実行する。
次に、アダプティブなエンティティ置換と指数関数的なメカニズムベースのテキスト選択を適用し、セマンティックユーティリティを保持しながら、区別されたプライバシ保護を提供する。
PA-HDPは、与えられたクエリで真に敏感なコンテンツだけを保護することにより、検索コーパスに対する不要な変更を最小限に抑える。
ベンチマークデータセットの大規模な実験により、PA-HDPは高い検索品質を維持しながら、プライバシリークを著しく低減し、従来の方法よりも優れたプライバシユーティリティトレードオフを実現している。
関連論文リスト
- PRAG: End-to-End Privacy-Preserving Retrieval-Augmented Generation [15.502387220719813]
既存のプライバシー保護ソリューションは、ノイズ注入による検索品質を犠牲にしたり、部分暗号化のみを提供する。
本稿では,文書とクエリの両方に対してエンドツーエンドの機密性を実現する,エンドツーエンドのプライバシ保護システムPRAGを提案する。
大規模データセットの実験では、PRAGは競争力のあるリコール(72.45%-74.45%)、実用的な検索遅延、グラフ再構成攻撃に対する強力なレジリエンスを達成している。
論文 参考訳（メタデータ） (2026-04-29T10:46:45Z) - Not All Entities are Created Equal: A Dynamic Anonymization Framework for Privacy-Preserving Retrieval-Augmented Generation [7.905833478464377]
TRIP-RAGという動的匿名化フレームワークを導入する。
ユーティリティをトレードオフしながら、非常に敏感なエンティティを識別する。
理論的解析と実験により,TRIP-RAGは文脈推論リスクを効果的に低減できることが示された。
論文 参考訳（メタデータ） (2026-03-27T05:03:24Z) - Neural Gate: Mitigating Privacy Risks in LVLMs via Neuron-Level Gradient Gating [71.55435880263238]
ニューラルゲート(Neural Gate)は,ニューロンレベルのモデル編集によってプライバシリスクを軽減する新しい手法である。
本手法は,プライバシ関連質問に対する拒否率を高めることにより,モデルのプライバシ保護を改善する。
論文 参考訳（メタデータ） (2026-03-13T03:03:20Z) - Zero-Shot Privacy-Aware Text Rewriting via Iterative Tree Search [60.197239728279534]
クラウドベースのサービスにおける大規模言語モデル(LLM)は、重大なプライバシー上の懸念を引き起こしている。
既存のテキスト匿名化と、ルールベースのリアクションやスクラブのような非識別技術は、プライバシー保護とテキストの自然性と実用性のバランスをとるのに苦労することが多い。
我々は,一貫性,妥当性,自然性を保ちながら,秘密情報を体系的に難読化・削除するゼロショット木探索型反復文書き換えアルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-09-25T07:23:52Z) - Privacy-Aware Decoding: Mitigating Privacy Leakage of Large Language Models in Retrieval-Augmented Generation [26.573578326262307]
プライバシ・アウェア・デコーディング(英: Privacy-Aware Decoding、PAD)は、ガウス雑音を発生時にトークンロジットに適応的に注入する軽量な推論時防御法である。
PADは信頼性ベースのスクリーニングを統合して、リスクの高いトークンを選択的に保護し、不要なノイズを最小限に抑える効率的な感度推定と、プライバシと生成品質のバランスをとるためのコンテキスト対応ノイズ校正を行う。
我々の研究は、機密ドメインにおける普遍的でスケーラブルなプライバシソリューションを実現するために、デコード戦略を通じて、RAGのプライバシリスクを軽減するための重要な一歩を踏み出しています。
論文 参考訳（メタデータ） (2025-08-05T05:22:13Z) - A False Sense of Privacy: Evaluating Textual Data Sanitization Beyond Surface-level Privacy Leakage [77.83757117924995]
我々は、データリリース時の個人のプライバシーリスクを定量化するために、再識別攻撃を評価する新しいフレームワークを提案する。
本手法は, 衛生データから年齢や物質使用履歴などのセンシティブな属性を推測するために, 一見無害な補助情報を利用できることを示す。
論文 参考訳（メタデータ） (2025-04-28T01:16:27Z) - RAG with Differential Privacy [3.009591302286514]
Retrieval-Augmented Generation (RAG) は、新鮮で関連するコンテキストを持つ大規模言語モデルを提供する主要な技術として登場した。
外部文書を生成プロセスに統合することは、重大なプライバシー上の懸念を引き起こす。
本稿では,個人データから一般知識を抽出する手法を提案する。
論文 参考訳（メタデータ） (2024-12-26T17:34:26Z) - Privacy-Preserving Dynamic Assortment Selection [4.399892832075127]
本稿では,マルチノミアルロジット(MNL)バンドレートモデルを用いて,プライバシ保護のための動的アソシエーション選択のための新しいフレームワークを提案する。
弊社のアプローチでは、ノイズをユーザユーティリティ推定に統合し、探索とエクスプロイトのバランスを保ちつつ、堅牢なプライバシー保護を確保している。
論文 参考訳（メタデータ） (2024-10-29T19:28:01Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳（メタデータ） (2023-04-17T00:38:01Z) - How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。
プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
論文 参考訳（メタデータ） (2022-11-18T11:39:03Z) - Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。
まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。
そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2020-09-18T20:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。