論文の概要: RAGLeak: Supply-Chain Privacy Backdoors in Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2610.25937v1
• Date: Mon, 19 Oct 2026 07:32:11 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:29:59.312404
• Title: RAGLeak: Supply-Chain Privacy Backdoors in Retrieval-Augmented Generation
• Title（参考訳）: RAGLeak:Retrieval-Augmented Generationのサプライチェーンプライバシバックドア
• Abstract要約: Retrieval-Augmented Generation (RAG) は、大規模な言語モデルで推論中に外部の知識にアクセスできるようにする。 既存のRAGシステムに対するデータ抽出攻撃は、検索された文書を再生またはパラフレーズ化するプロンプトインジェクションまたはバックドアに依存する。 我々は、情報漏洩を直接のテキスト露出から分離するサプライチェーンプライバシバックドア攻撃であるRAGLeakを提案する。
• 参考スコア（独自算出の注目度）: 27.110319786576934
• License:
• Abstract: Retrieval-Augmented Generation (RAG) enables large language models to access external knowledge during inference, but its reliance on external knowledge bases also introduces new attack surfaces. Existing data extraction attacks against RAG systems rely on either prompt injection, which heavily depends on the generator's instruction-following capability, or backdoors that reproduce or paraphrase retrieved documents but struggle to balance extraction fidelity and stealthiness. In this paper, we propose RAGLeak, a supply-chain privacy backdoor attack that decouples information leakage from direct textual exposure. When triggered, the generator reversibly obfuscates retrieved private documents for high-fidelity recovery by an auxiliary LLM. Across three model families and three application domains, RAGLeak achieves up to $100\%$ ASR with limited impact on benign utility and at most a $10$-percentage-point ASR drop under representative detection-based defenses. The backdoor remains effective after clean fine-tuning and across model scales and versions, revealing an underexplored supply-chain privacy risk in RAG systems. The source code is available at https://anonymous.4open.science/r/RAGLeak-4B67.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、大規模な言語モデルで推論中に外部の知識にアクセスできるようにするが、外部の知識ベースに依存しているため、新たな攻撃面も導入される。 既存のRAGシステムに対するデータ抽出攻撃は、ジェネレータの命令追従能力に大きく依存するプロンプトインジェクションや、回収された文書を再生またはパラフレーズ化するバックドアに依存するが、抽出の忠実さとステルスネスのバランスをとるのに苦労している。 本稿では,情報漏洩をテキストの直接露出から切り離すサプライチェーンプライバシバックドア攻撃であるRAGLeakを提案する。 トリガされると、このジェネレータは、補助LDMによる高忠実性回復のために回収された私文書を可逆的に難読化する。 3つのモデルファミリと3つのアプリケーションドメインにまたがって、RAGLeakは最大100\%のASRを達成する。 バックドアは、きれいに微調整し、モデルスケールとバージョンを横断した後も有効であり、RAGシステムにおける未調査のサプライチェーンプライバシリスクが明らかになる。 ソースコードはhttps://anonymous.4open.science/r/RAGLeak-4B67で公開されている。

関連論文リスト

• RAG-NAROK: Retrieval-Aware Knowledge Corpus Poisoning in RAG with Source-specific Refutation [0.0]
  既存の知識ベース中毒攻撃は基本的に静的である。 本稿では,クエリテキストに適応するRAG攻撃フレームワークであるRAG-NAROKを紹介する。 以上の結果から,RAG-NAROKは様々な領域で静的ベースラインを著しく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2026-09-21T22:53:04Z)
• SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors [9.273743530407977]
  Federated Learning (FL)は、生データを共有せずに協調的なモデルトレーニングを可能にする。 悪意のあるクライアントがモデル予測を操作するために、ローカルのトレーニングデータに隠れたトリガーを埋め込むバックドア攻撃に対して脆弱である。 SCRUB-FL, SCRUB-FLを提案する。
  論文  参考訳（メタデータ） (2026-06-21T22:34:34Z)
• Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
  Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。 グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
  論文  参考訳（メタデータ） (2025-11-22T08:52:09Z)
• External Data Extraction Attacks against Retrieval-Augmented Large Language Models [70.47869786522782]
  RAGは、大規模言語モデル(LLM)を拡張するための重要なパラダイムとして登場した。 RAGは外部データ抽出攻撃(EDEA)の新たなリスクを導入している。 本研究は, EDEA を検索拡張 LLM に対して形式化する最初の総合的研究である。
  論文  参考訳（メタデータ） (2025-10-03T12:53:45Z)
• Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。 標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。 本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
  論文  参考訳（メタデータ） (2025-08-28T17:05:18Z)
• ReVeil: Unconstrained Concealed Backdoor Attack on Deep Neural Networks using Machine Unlearning [6.464204258475263]
  ディープニューラルネットワーク(DNN)に隠れた機能を埋め込んだバックドア攻撃 本稿では,DNNトレーニングパイプラインのデータ収集フェーズを対象とした,隠れたバックドア攻撃であるReVeilを紹介する。
  論文  参考訳（メタデータ） (2025-02-17T11:25:28Z)
• Feedback-Guided Extraction of Knowledge Base from Retrieval-Augmented LLM Applications [22.2065145193986]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の知識境界を拡張する エージェントベースのブラックボックス攻撃であるCopyBreakRAGを提案する。 実験結果から,CopyBreakRAGは,チャンク抽出比において,最先端のブラックボックスアプローチを平均45%上回った。
  論文  参考訳（メタデータ） (2024-11-21T13:18:03Z)
• Data Extraction Attacks in Retrieval-Augmented Generation via Backdoors [15.861833242429228]
  本稿では,RAGの知識データベースを対象としたデータ抽出攻撃について検討する。 従来のインジェクションベース抽出攻撃はLLMの命令追従能力に大きく依存していた。 筆者らは, LLM内のバックドアを作成するために, 微調整期間中に少量の有毒データを注入するバックドアRAGを提案する。
  論文  参考訳（メタデータ） (2024-11-03T22:27:40Z)
• The Good and The Bad: Exploring Privacy Issues in Retrieval-Augmented Generation (RAG) [56.67603627046346]
  Retrieval-augmented Generation (RAG)は、プロプライエタリおよびプライベートデータによる言語モデルを容易にする強力な技術である。 本研究では,プライベート検索データベースの漏洩に対するRAGシステムの脆弱性を実証する,新たな攻撃手法による実証的研究を行う。
  論文  参考訳（メタデータ） (2024-02-23T18:35:15Z)
• Shared Adversarial Unlearning: Backdoor Mitigation by Unlearning Shared Adversarial Examples [67.66153875643964]
  バックドア攻撃は、機械学習モデルに対する深刻なセキュリティ脅威である。 本稿では,小さなクリーンデータセットを用いて,バックドアモデルの浄化作業について検討する。 バックドアリスクと敵的リスクの関連性を確立することにより、バックドアリスクに対する新たな上限を導出する。
  論文  参考訳（メタデータ） (2023-07-20T03:56:04Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。