Fugu-MT 論文翻訳(概要): Privacy-Preserving RAG by Concealing Sensitive Information from External LLMs

論文の概要: Privacy-Preserving RAG by Concealing Sensitive Information from External LLMs

arxiv url: http://arxiv.org/abs/2608.12675v1
Date: Thu, 13 Aug 2026 00:23:56 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-14 18:29:38.352795
Title: Privacy-Preserving RAG by Concealing Sensitive Information from External LLMs
Title（参考訳）: 外部LLMからの感性情報によるプライバシ保護RAG
Abstract要約: センシティブ・エンティティ・エイリアス・ジェネレータ(SEAG, Sensitive Entity Alias Generator)は、ユーザが機密情報を開示することなく強力なサードパーティジェネレータを活用できるようにするプライバシー保護フレームワークである。 SEAGは、センシティブなエンティティを特定し、対応するエイリアスを生成し、エンティティ置換テーブルを構築する軽量モデルを導入している。実験結果はSEAGフレームワークの成功を示している。
参考スコア（独自算出の注目度）: 0.06524460254566904
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Retrieval-Augmented Generation (RAG) is widely used to improve the performance of Large Language Models (LLMs) in answering user queries. Existing privacy research on RAG has focused on preventing unauthorized users from accessing sensitive data. However, another important problem that is often overlooked in RAG privacy research is that external generators have access to the query and the retrieved documents, which may contain confidential information that could potentially be misused or accessed for unintended purposes. In this paper, we introduce the Sensitive Entity Alias Generator (SEAG), a privacy-preserving framework that empowers users to utilize powerful third-party generators without disclosing sensitive information. SEAG introduces a lightweight model that locates sensitive entities, generates corresponding aliases, and constructs an entity replacement table. The table is used to replace sensitive words in the user's query and in the retrieved documents before they are forwarded to an external generator. For this purpose, two datasets were constructed: one for fine-tuning SEAG models to generate entity replacement tables, and another for evaluating the entire SEAG framework. The experimental results demonstrate the success of the SEAG framework. As for the User metric, which measures the ability of the model to provide a correct response to the user while hiding sensitive information from the external generator, all SEAG models achieved over 80% accuracy. Additional analysis further evaluated the ability of SEAG models Qwen-3, LLaMA-3.2, and Phi-4 to hide all sensitive entities within given documents. The results show good performance with total accuracies of 77.83%, 76.73%, and 74.91%, respectively.
Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、ユーザクエリの応答におけるLarge Language Models (LLM) の性能向上に広く利用されている。 RAGに関する既存のプライバシー調査は、未承認のユーザが機密データにアクセスするのを防ぐことに重点を置いている。しかしながら、RAGプライバシー研究でしばしば見落とされがちな別の重要な問題は、外部ジェネレータがクエリや検索されたドキュメントにアクセスでき、不正使用や意図しない目的のためにアクセスされる可能性のある機密情報を含む可能性があることである。本稿では、機密情報を開示することなく、強力なサードパーティジェネレータを利用するためのプライバシー保護フレームワークであるSensitive Entity Alias Generator (SEAG)を紹介する。 SEAGは、センシティブなエンティティを特定し、対応するエイリアスを生成し、エンティティ置換テーブルを構築する軽量モデルを導入している。テーブルは、ユーザのクエリや検索したドキュメントのセンシティブな単語を、外部ジェネレータに転送する前に置き換えるために使用される。この目的のために、SEAGモデルを微調整してエンティティ置換テーブルを生成するデータセットと、SEAGフレームワーク全体を評価するデータセットが2つ構築された。実験結果はSEAGフレームワークの成功を示している。外部ジェネレータからの機密情報を隠蔽しながら、モデルがユーザに対して正しい応答を提供する能力を測定するユーザメトリックについて、すべてのSEAGモデルは80%以上の精度を達成した。さらなる分析により、SEAGモデル Qwen-3, LLaMA-3.2, Phi-4 が与えられた文書内のすべての機密情報を隠蔽する能力がさらに評価された。その結果, それぞれ77.83%, 76.73%, 74.91%であった。

関連論文リスト

PRAG: End-to-End Privacy-Preserving Retrieval-Augmented Generation [15.502387220719813]
既存のプライバシー保護ソリューションは、ノイズ注入による検索品質を犠牲にしたり、部分暗号化のみを提供する。本稿では,文書とクエリの両方に対してエンドツーエンドの機密性を実現する,エンドツーエンドのプライバシ保護システムPRAGを提案する。大規模データセットの実験では、PRAGは競争力のあるリコール(72.45%-74.45%)、実用的な検索遅延、グラフ再構成攻撃に対する強力なレジリエンスを達成している。
論文参考訳（メタデータ） (2026-04-29T10:46:45Z)
Not All Entities are Created Equal: A Dynamic Anonymization Framework for Privacy-Preserving Retrieval-Augmented Generation [7.905833478464377]
TRIP-RAGという動的匿名化フレームワークを導入する。ユーティリティをトレードオフしながら、非常に敏感なエンティティを識別する。理論的解析と実験により,TRIP-RAGは文脈推論リスクを効果的に低減できることが示された。
論文参考訳（メタデータ） (2026-03-27T05:03:24Z)
External Data Extraction Attacks against Retrieval-Augmented Large Language Models [70.47869786522782]
RAGは、大規模言語モデル(LLM)を拡張するための重要なパラダイムとして登場した。 RAGは外部データ抽出攻撃(EDEA)の新たなリスクを導入している。本研究は, EDEA を検索拡張 LLM に対して形式化する最初の総合的研究である。
論文参考訳（メタデータ） (2025-10-03T12:53:45Z)
InfoGain-RAG: Boosting Retrieval-Augmented Generation via Document Information Gain-based Reranking and Filtering [17.346965728209394]
Retrieval-Augmented Generation (RAG) は,Large Language Models (LLMs) の重要な限界に対処する,有望なアプローチとして登場した。本稿では,検索した文書のコントリビューションを定量化し,回答生成の精度を高めるために,文書情報ゲイン(Document Information Gain, DIG)を提案する。本稿では,DIGスコアを利用した特殊リランカの学習フレームワークInfoGain-RAGを紹介する。
論文参考訳（メタデータ） (2025-09-16T07:28:07Z)
Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。 FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
論文参考訳（メタデータ） (2025-04-27T04:26:02Z)
MIRAGE: A Metric-Intensive Benchmark for Retrieval-Augmented Generation Evaluation [8.950307082012763]
大規模言語モデル(LLM)の生成能力向上に有効な手法として,検索拡張生成(RAG)が注目されている。本稿では,RAG評価に特化して設計された質問応答データセットであるMIRAGEについて述べる。 MIRAGEは、37,800エントリの検索プールにマッピングされた7,560のキュレートされたインスタンスで構成され、検索と生成の両方のタスクの効率的かつ正確な評価を可能にする。
論文参考訳（メタデータ） (2025-04-23T23:05:46Z)
MES-RAG: Bringing Multi-modal, Entity-Storage, and Secure Enhancements to RAG [65.0423152595537]
本稿では,エンティティ固有のクエリ処理を強化し,正確でセキュアで一貫した応答を提供するMES-RAGを提案する。 MES-RAGは、データアクセスの前に保護を適用してシステムの整合性を確保するための積極的なセキュリティ対策を導入している。実験の結果,MES-RAGは精度とリコールの両方を著しく改善し,質問応答の安全性と有用性を向上する効果が示された。
論文参考訳（メタデータ） (2025-03-17T08:09:42Z)
Dataset Protection via Watermarked Canaries in Retrieval-Augmented LLMs [67.0310240737424]
本稿では,テキストデータセットの所有権を保護し,RA-LLMによる不正使用を効果的に検出するための新しいアプローチを提案する。提案手法では,IPデータセットに特別に設計されたカナリア文書を挿入することにより,元のデータを完全に変更することなく保護する。検出プロセス中、カナリア文書をクエリし、RA-LLMの応答を分析することにより、不正使用を識別する。
論文参考訳（メタデータ） (2025-02-15T04:56:45Z)
RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework [66.93260816493553]
本稿では,様々なシナリオにまたがってRAGシステムを評価するためのフレームワークであるRAGvalを紹介する。事実の正確性に焦点をあてて,完全性,幻覚,不適切性の3つの新しい指標を提案する。実験結果から, RAGEvalは, 生成した試料の明瞭度, 安全性, 適合性, 豊かさにおいて, ゼロショット法とワンショット法より優れていた。
論文参考訳（メタデータ） (2024-08-02T13:35:11Z)
Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
機密情報を含む匿名化は、幅広いアプリケーションにとって不可欠である。既存の技術は、大規模言語モデルの再識別能力の新たな課題に直面している。本稿では,プライバシ評価器,ユーティリティ評価器,最適化コンポーネントの3つの重要なコンポーネントで構成されるフレームワークを提案する。
論文参考訳（メタデータ） (2024-07-16T14:28:56Z)
"Glue pizza and eat rocks" -- Exploiting Vulnerabilities in Retrieval-Augmented Generative Models [74.05368440735468]
Retrieval-Augmented Generative (RAG)モデルにより大規模言語モデル(LLM)が強化される本稿では,これらの知識基盤の開放性を敵が活用できるセキュリティ上の脅威を示す。
論文参考訳（メタデータ） (2024-06-26T05:36:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。