論文の概要: From One Query to Many: A Critical Survey of Privacy Accounting in RAG

• arxiv url: http://arxiv.org/abs/2610.21245v1
• Date: Thu, 15 Oct 2026 04:41:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.181365
• Title: From One Query to Many: A Critical Survey of Privacy Accounting in RAG
• Title（参考訳）: One Query から Many へ - RAG のプライバシ会計に関する批判的調査
• Abstract要約: Retrieval-augmented Generation (RAG)は、大規模な言語モデルで外部の知識を活用することができるが、検索したコーパスに機密情報が含まれている場合、プライバシー上のリスクが生じる。 差分プライバシー(DP)は正式な保護を提供するが、既存のDP-RAGメソッド間でのプライバシー保証の解釈と比較は依然として困難である。
• 参考スコア（独自算出の注目度）: 3.8253515195155665
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-augmented generation (RAG) enables large language models to leverage external knowledge but introduces privacy risks when the retrieved corpus contains sensitive information. Differential privacy (DP) offers formal protection, yet interpreting and comparing privacy guarantees across existing DP-RAG methods remains challenging. In particular, a privacy budget reported for a single response does not directly characterize privacy loss over repeated queries, and even identical values of $\varepsilon$ may represent different guarantees depending on the protected data unit, accounting horizon, and observable outputs. This survey critically examines how privacy accounting evolves from single-query generation to multi-query RAG systems. We categorize existing approaches into query-time privatization, multi-query accounting, and one-time corpus privatization. We analyze their underlying assumptions and privacy--utility trade-offs. Rather than ranking methods by $\varepsilon$ alone, we propose a framework that interprets a DP-RAG guarantee along three dimensions: privacy granularity, accounting scope, and release boundaries. We conclude that an $\eps$ is a claim only together with the three slots: the protected unit, the accounting scope, and the release boundary.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG)は、大規模な言語モデルで外部の知識を活用することができるが、検索したコーパスに機密情報が含まれている場合、プライバシー上のリスクが生じる。 差分プライバシー(DP)は正式な保護を提供するが、既存のDP-RAGメソッド間でのプライバシー保証の解釈と比較は依然として困難である。 特に、単一のレスポンスに対して報告されたプライバシー予算は、繰り返しクエリに対するプライバシー損失を直接特徴付けるものではなく、$\varepsilon$の同じ値でさえ、保護されたデータユニット、会計の水平線、観測可能なアウトプットによって異なる保証を表す可能性がある。 この調査は、プライバシ会計がシングルクエリ生成からマルチクエリRAGシステムへどのように進化するかを批判的に調査する。 既存のアプローチを,クエリ時民営化,マルチクエリ会計,ワンタイムコーパス民営化に分類する。 基礎となる前提とプライバシ-ユーティリティのトレードオフを分析します。 そこで我々は,DP-RAG保証を,プライバシーの粒度,会計範囲,リリースバウンダリの3次元に沿って解釈するフレームワークを提案する。 我々は、$\eps$は、保護されたユニット、会計スコープ、リリースバウンダリという3つのスロットでのみ、クレームである、と結論付けます。

関連論文リスト

• Your Privacy Depends on Others: Collusion Vulnerabilities in Individual Differential Privacy [50.66105844449181]
  個々の差別的プライバシ(iDP)は、ユーザが自身のプライバシをコントロールすることを約束するが、この約束は実際には破られる可能性がある。 我々は、サンプリングベースのiDPメカニズムにおいて、これまで見過ごされていた脆弱性を明らかにした。 我々は、$(varepsilon_i,_i,overline)$-iDPというプライバシー契約を提案します。
  論文  参考訳（メタデータ） (2026-01-19T10:26:12Z)
• Private-RAG: Answering Multiple Queries with LLMs while Keeping Your Data Private [21.980739918403344]
  Retrieval-augmented Generation (RAG)は、外部コーパスからドキュメントを推論時に取得することで、大きな言語モデル(LLM)を強化する。 このコーパスが機密情報を含む場合、保護されていないRAGシステムは個人情報を漏洩するリスクがある。 本稿では、より実用的なマルチクエリ設定について検討し、2つのDP-RAGアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-11-10T21:12:32Z)
• Privacy-Preserving Retrieval-Augmented Generation with Differential Privacy [25.896416088293908]
  検索強化世代(RAG)は大規模言語モデル(LLM)を支援するのに特に有効である RAGは、外部データソースから機密情報を漏洩するリスクを出力する。 機密情報を必要とするトークンに対してのみ、プライバシー予算を賢く費やすアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-12-06T01:20:16Z)
• Unified Mechanism-Specific Amplification by Subsampling and Group Privacy Amplification [54.1447806347273]
  サブサンプリングによる増幅は、差分プライバシーを持つ機械学習の主要なプリミティブの1つである。 本稿では、メカニズム固有の保証を導出するための最初の一般的なフレームワークを提案する。 サブサンプリングが複数のユーザのプライバシに与える影響を分析する。
  論文  参考訳（メタデータ） (2024-03-07T19:36:05Z)
• A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
  推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。 EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。 我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
  論文  参考訳（メタデータ） (2023-04-17T00:38:01Z)
• Privacy Amplification via Shuffling for Linear Contextual Bandits [51.94904361874446]
  ディファレンシャルプライバシ(DP)を用いた文脈線形バンディット問題について検討する。 プライバシのシャッフルモデルを利用して,JDP と LDP のプライバシ/ユーティリティトレードオフを実現することができることを示す。 以上の結果から,ローカルプライバシを保ちながらシャッフルモデルを活用することで,JDPとDPのトレードオフを得ることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2021-12-11T15:23:28Z)
• Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
  エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。 まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。 そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-09-18T20:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。