論文の概要: Exposing Privacy Risks in Graph Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2508.17222v1
- Date: Sun, 24 Aug 2025 06:19:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-26 18:43:45.411419
- Title: Exposing Privacy Risks in Graph Retrieval-Augmented Generation
- Title（参考訳）: グラフ検索型世代におけるプライバシリスクの露呈
- Authors: Jiale Liu, Jiahao Zhang, Suhang Wang,
- Abstract要約: Graph RAGは、外部の最新の知識でLLM(Large Language Models)を拡張するための強力なテクニックです。
本稿では,グラフRAGシステムのデータ抽出脆弱性について検討する。
グラフRAGシステムは生テキストの漏洩を減少させる可能性があるが、構造化された実体や関係情報の抽出には非常に脆弱である。
- 参考スコア（独自算出の注目度）: 32.961000274379835
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-Augmented Generation (RAG) is a powerful technique for enhancing Large Language Models (LLMs) with external, up-to-date knowledge. Graph RAG has emerged as an advanced paradigm that leverages graph-based knowledge structures to provide more coherent and contextually rich answers. However, the move from plain document retrieval to structured graph traversal introduces new, under-explored privacy risks. This paper investigates the data extraction vulnerabilities of the Graph RAG systems. We design and execute tailored data extraction attacks to probe their susceptibility to leaking both raw text and structured data, such as entities and their relationships. Our findings reveal a critical trade-off: while Graph RAG systems may reduce raw text leakage, they are significantly more vulnerable to the extraction of structured entity and relationship information. We also explore potential defense mechanisms to mitigate these novel attack surfaces. This work provides a foundational analysis of the unique privacy challenges in Graph RAG and offers insights for building more secure systems.
- Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、言語モデル(LLM)を外部の最新の知識で拡張する強力な技術である。
Graph RAGは、グラフベースの知識構造を利用して、より一貫性があり、文脈的にリッチな回答を提供する高度なパラダイムとして登場した。
しかし、平易な文書検索から構造化されたグラフトラバーサルへの移行により、新しい、未調査のプライバシーリスクがもたらされる。
本稿では,グラフRAGシステムのデータ抽出脆弱性について検討する。
我々は、エンティティやそれらの関係など、生のテキストと構造化データの両方を漏洩させる危険性を調査するために、調整されたデータ抽出攻撃を設計し、実行します。
グラフRAGシステムは生テキストの漏洩を減少させる可能性があるが、構造化された実体と関係情報の抽出には非常に脆弱である。
また、これらの新たな攻撃面を緩和するための防御機構についても検討する。
この研究は、Graph RAGのユニークなプライバシー問題に関する基礎的な分析を提供し、よりセキュアなシステムを構築するための洞察を提供する。
関連論文リスト
- TrustGLM: Evaluating the Robustness of GraphLLMs Against Prompt, Text, and Structure Attacks [3.3238054848751535]
テキスト,グラフ構造,即時操作の3次元にわたる敵攻撃に対するGraphLLMの脆弱性を評価する総合的研究であるTrustGLMを紹介する。
この結果から,GraphLLMsは,ノードのテキスト属性に含まれる意味論的に類似した単語を置き換えるだけで,テキスト攻撃に非常に敏感であることが判明した。
また、標準グラフ構造攻撃手法はモデル性能を著しく低下させるが、プロンプトテンプレートで候補ラベルセットをランダムにシャッフルすると性能が大幅に低下する。
論文 参考訳（メタデータ） (2025-06-13T14:48:01Z) - GraphRAG under Fire [13.69098945498758]
この研究は、GraphRAGの攻撃に対する脆弱性を調べ、興味深いセキュリティパラドックスを明らかにする。
既存のRAG中毒攻撃は、GraphRAGのグラフベースのインデックスと検索により、従来のRAGよりも効果が低い。
GragPoisonは、基礎となる知識グラフの共有関係を利用して、有害なテキストを作る新しい攻撃だ。
論文 参考訳（メタデータ） (2025-01-23T19:33:16Z) - Retrieval-Augmented Generation with Graphs (GraphRAG) [84.29507404866257]
Retrieval-augmented Generation (RAG) は、追加情報を取得することによって下流タスクの実行を向上させる強力な技術である。
グラフは、その固有の「エッジで接続されたノード」の性質により、巨大な異種情報と関係情報を符号化する。
従来のRAGとは異なり、多種多様な形式とドメイン固有の関係知識のようなグラフ構造化データのユニークさは、異なるドメインでGraphRAGを設計する際、ユニークで重要な課題を生じさせる。
論文 参考訳（メタデータ） (2024-12-31T06:59:35Z) - On provable privacy vulnerabilities of graph representations [34.45433384694758]
グラフ表現学習(GRL)は複雑なネットワーク構造から洞察を抽出するために重要である。
また、これらの表現にプライバシー上の脆弱性があるため、セキュリティ上の懸念も高まる。
本稿では,エッジ再構成攻撃により,高感度なトポロジ情報を推定できるグラフニューラルモデルの構造的脆弱性について検討する。
論文 参考訳（メタデータ） (2024-02-06T14:26:22Z) - GraphMAE: Self-Supervised Masked Graph Autoencoders [52.06140191214428]
本稿では,自己教師付きグラフ学習における課題を軽減するマスク付きグラフオートエンコーダGraphMAEを提案する。
我々は3つの異なるグラフ学習タスクに対して、21の公開データセットに関する広範な実験を行った。
その結果,GraphMAEはグラフオートエンコーダであり,設計に注意を払っている。
論文 参考訳（メタデータ） (2022-05-22T11:57:08Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳（メタデータ） (2020-09-28T17:55:04Z) - Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。
GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。
トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文 参考訳（メタデータ） (2020-06-21T19:45:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。