論文の概要: DCMI: A Differential Calibration Membership Inference Attack Against Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2509.06026v1
• Date: Sun, 07 Sep 2025 11:58:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:03.824391
• Title: DCMI: A Differential Calibration Membership Inference Attack Against Retrieval-Augmented Generation
• Title（参考訳）: DCMI:Retrieval-Augmented Generationに対する差分校正メンバーシップ推論攻撃
• Authors: Xinyu Gao, Xiangtao Meng, Yingkai Dong, Zheng Li, Shanqing Guo,
• Abstract要約: 非メンバ検索文書の負の影響を緩和する差分校正MIAを提案する。 例えば、Flan-T5でRAGシステムに対して97.42%のAUCと94.35%の精度を達成した。 これらの結果は、RAGシステムにおける重大なプライバシーリスクを強調し、より強力な保護メカニズムの必要性を強調している。
• 参考スコア（独自算出の注目度）: 20.140666137717208
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While Retrieval-Augmented Generation (RAG) effectively reduces hallucinations by integrating external knowledge bases, it introduces vulnerabilities to membership inference attacks (MIAs), particularly in systems handling sensitive data. Existing MIAs targeting RAG's external databases often rely on model responses but ignore the interference of non-member-retrieved documents on RAG outputs, limiting their effectiveness. To address this, we propose DCMI, a differential calibration MIA that mitigates the negative impact of non-member-retrieved documents. Specifically, DCMI leverages the sensitivity gap between member and non-member retrieved documents under query perturbation. It generates perturbed queries for calibration to isolate the contribution of member-retrieved documents while minimizing the interference from non-member-retrieved documents. Experiments under progressively relaxed assumptions show that DCMI consistently outperforms baselines--for example, achieving 97.42% AUC and 94.35% Accuracy against the RAG system with Flan-T5, exceeding the MBA baseline by over 40%. Furthermore, on real-world RAG platforms such as Dify and MaxKB, DCMI maintains a 10%-20% advantage over the baseline. These results highlight significant privacy risks in RAG systems and emphasize the need for stronger protection mechanisms. We appeal to the community's consideration of deeper investigations, like ours, against the data leakage risks in rapidly evolving RAG systems. Our code is available at https://github.com/Xinyu140203/RAG_MIA.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、外部知識ベースを統合することで幻覚を効果的に低減するが、特に機密データを扱うシステムにおいて、MIA(メンバシップ推論攻撃)に脆弱性を導入する。 RAGの外部データベースをターゲットとする既存のMIAは、しばしばモデル応答に依存するが、RAG出力の非メンバ取得ドキュメントの干渉を無視し、その有効性を制限している。 そこで本研究では,非メンバ検索文書の負の影響を緩和する差分キャリブレーションMIAであるDCMIを提案する。 特に、DCMIは、クエリの摂動の下で、メンバと非メンバの検索されたドキュメント間の感度ギャップを利用する。 キャリブレーションのための摂動クエリを生成し、非メンバ検索ドキュメントからの干渉を最小限に抑えながら、メンバ検索ドキュメントのコントリビューションを分離する。 例えば、Flan-T5によるRAGシステムに対して97.42%のAUCと94.35%の精度を達成し、MBAベースラインを40%以上上回っている。 さらに、DifyやMaxKBのような現実世界のRAGプラットフォームでは、DCMIはベースラインに対して10%-20%の優位性を維持している。 これらの結果は、RAGシステムにおける重大なプライバシーリスクを強調し、より強力な保護メカニズムの必要性を強調している。 我々は、急速に発展するRAGシステムにおけるデータ漏洩リスクに対して、我々のように、より深い調査に関するコミュニティの配慮に訴える。 私たちのコードはhttps://github.com/Xinyu140203/RAG_MIAで利用可能です。

関連論文リスト

• Defending the Edge: Representative-Attention for Mitigating Backdoor Attacks in Federated Learning [7.808916974942399]
  不均一エッジデバイスは、多種多様で非独立で、同一に分散された(非IID)データを生成する。 本稿では, 悪意のあるクライアントと良識を区別するための, FeRA という, 表現力に基づく防衛機構を提案する。 本評価では,エッジデバイスに典型的な非IIDデータ分散に挑戦するなど,さまざまなFLシナリオにおけるFeRAの堅牢性を示す。
  論文  参考訳（メタデータ） (2025-05-15T13:44:32Z)
• Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
  我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。 FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。 モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
  論文  参考訳（メタデータ） (2025-04-27T04:26:02Z)
• AlignRAG: Leveraging Critique Learning for Evidence-Sensitive Retrieval-Augmented Reasoning [61.28113271728859]
  RAGは知識ベースで大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 標準的なRAGパイプラインは、モデル推論が取得した証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 本研究では,RAGをRetrieval-Augmented Reasoningと解釈し,中心的だが未探索な問題であるtextitReasoning Misalignmentを同定する。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• Mask-based Membership Inference Attacks for Retrieval-Augmented Generation [25.516648802281626]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)における幻覚を緩和するための効果的なアプローチである。 近年,LLMトレーニングに使用せず,RAGナレッジデータベースに最新のデータや著作権データを格納する傾向にある。 このプラクティスは、特定のターゲットドキュメントがRAGシステムのナレッジデータベースに格納されているかどうかを検出することを目的とした、メンバーシップ推論攻撃(MIAs)に対する懸念を提起している。
  論文  参考訳（メタデータ） (2024-10-26T10:43:39Z)
• Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework [77.45983464131977]
  我々は、RAGモデルの予測が誤りであり、現実のアプリケーションにおいて制御不能なリスクをもたらす可能性がどの程度あるかに焦点を当てる。 本研究は,RAGの予測に影響を及ぼす2つの重要な潜伏要因を明らかにする。 我々は,これらの要因をモデルに誘導し,その応答に与える影響を解析する,反実的プロンプトフレームワークを開発した。
  論文  参考訳（メタデータ） (2024-09-24T14:52:14Z)
• Speculative RAG: Enhancing Retrieval Augmented Generation through Drafting [68.90949377014742]
  Speculative RAG(投機的RAG)は、より大規模なジェネラリストLMを利用して、より小さな蒸留専門のLMによって並列に生成された複数のRAGドラフトを効率よく検証するフレームワークである。 提案手法は,より小さな専門家のLMにドラフト作成を委譲することでRAGを加速し,より大きなジェネラリストのLMがドラフトに1回の検証パスを実行する。 PubHealthの従来のRAGシステムと比較して、レイテンシを50.83%削減しながら、最大12.97%の精度向上を実現している。
  論文  参考訳（メタデータ） (2024-07-11T06:50:19Z)
• Generating Is Believing: Membership Inference Attacks against Retrieval-Augmented Generation [9.73190366574692]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)における幻覚や知識の安定化といった問題を緩和する手法である。 既存の研究では、RAGのLCMに関連する潜在的なプライバシーリスクが示されている。 S$2$MIA, underlineMembership underlineInference underlineAttack, which uses the underlineSemantic underlineSimilarity between a given sample and the content generated by the RAG system。
  論文  参考訳（メタデータ） (2024-06-27T14:58:38Z)
• Is My Data in Your Retrieval Database? Membership Inference Attacks Against Retrieval Augmented Generation [0.9217021281095907]
  本稿では,RAGシステムに対して,メンバーシップ推論攻撃(MIA)を行うための効率的かつ使いやすい手法を提案する。 2つのベンチマークデータセットと複数の生成モデルを用いて攻撃の有効性を示す。 本研究は,RAGシステムにおけるセキュリティ対策の実施の重要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2024-05-30T19:46:36Z)
• ARES: An Automated Evaluation Framework for Retrieval-Augmented Generation Systems [46.522527144802076]
  本稿では,RAGシステム評価のための自動RAG評価システムであるARESを紹介する。 ARESは軽量LM判定器を微調整し、個々のRAG成分の品質を評価する。 コードとデータセットをGithubで公開しています。
  論文  参考訳（メタデータ） (2023-11-16T00:39:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。