論文の概要: PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference

• arxiv url: http://arxiv.org/abs/2607.10709v1
• Date: Sun, 12 Jul 2026 11:04:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 15:40:48.508973
• Title: PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference
• Title（参考訳）: PromptGraph: LLM推論におけるプライバシとユーティリティのバランスのためのグラフガイドによるプロンプト衛生
• Authors: Chen Gu, Hui Wan, Donghui Hu, Hui Wang, Zhuoer Gu,
• Abstract要約: 本稿では,プライバシ保護LLM推論のためのグラフ誘導型プロンプトグラフを提案する。 PromptGraphは、スパンレベルのプライバシリークと、スパンのペア間のユーティリティ関連コンテキスト依存性を推定する。 PromptGraphは,プライバシとユーティリティのバランスが,プロンプトプライバシベースラインよりも良好であることを示す広範な実験を実施している。
• 参考スコア（独自算出の注目度）: 7.531768930437657
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Model (LLM) services introduce a fundamental privacy challenge. Sensitive information may be inferred not only from explicit identifiers, such as names or phone numbers, but also from contextual associations among otherwise innocuous spans. Existing sanitizers typically assign privacy or utility signals to individual spans without explicitly modeling pairwise relationships among them. In this paper, we propose PromptGraph, a graph-guided prompt-sanitization approach for privacy-preserving LLM inference. PromptGraph estimates privacy leakage at the span level and utility-relevant contextual dependencies between pairs of spans. It represents each prompt as an attributed graph, in which nodes carry span-level privacy scores and edges encode contextual dependencies needed to preserve utility. The sanitization objective selects a protected span set that maximizes privacy gain while penalizing the loss of contextual dependencies. This formulation explicitly balances privacy and utility when contextual evidence is hidden. Protected spans are sanitized locally, and returned placeholders are restored only after passing local consistency checks. We conduct extensive experiments showing that PromptGraph achieves a more favorable balance between privacy and utility than prompt-privacy baselines.
• Abstract（参考訳）: 大きな言語モデル(LLM)サービスには、基本的なプライバシーの問題が伴う。 知覚情報は、名前や電話番号などの明示的な識別子だけでなく、他の無害なスパン間の文脈的関連からも推測できる。 既存のサニタイザは、ペア関係を明示的にモデル化することなく、プライバシやユーティリティシグナルを個々のスパンに割り当てるのが一般的である。 本稿では,プライバシ保護型LCM推論のためのグラフ誘導型即時衛生手法であるPromptGraphを提案する。 PromptGraphは、スパンレベルのプライバシリークと、スパンのペア間のユーティリティ関連コンテキスト依存性を推定する。 これは各プロンプトを属性付きグラフとして表現し、ノードはスパンレベルのプライバシスコアを持ち、エッジはユーティリティを保存するために必要なコンテキスト依存をエンコードする。 衛生目的は、コンテキスト依存の喪失をペナルティ化しながら、プライバシゲインを最大化する保護されたスパンセットを選択する。 この定式化は、コンテキスト証拠が隠されたときに、プライバシーとユーティリティを明確にバランスさせる。 保護されたスパンは局所的に衛生化され、返却されたプレースホルダーは、局所的な一貫性チェックをパスした後にのみ復元される。 PromptGraphは,プライバシとユーティリティのバランスが,プロンプトプライバシベースラインよりも良好であることを示す広範な実験を実施している。

関連論文リスト

• Mask-Free Privacy Extraction and Rewriting: A Domain-Aware Approach via Prototype Learning [13.300036863281996]
  プライバシーに敏感なドメインに対するDAMPER(Domain-Aware Mask-free Privacy extract and Rewriting)を提案する。 Damperは、遅延プライバシーセマンティクスを、対照的な学習を通じてコンパクトなドメインプライバシプロトタイプに運用する。 サンプリングベースのExponential Mechanismを統合し、厳密なスパンレベルの差分プライバシー保証を提供する。
  論文  参考訳（メタデータ） (2026-04-11T10:21:00Z)
• Zero-Shot Privacy-Aware Text Rewriting via Iterative Tree Search [60.197239728279534]
  クラウドベースのサービスにおける大規模言語モデル(LLM)は、重大なプライバシー上の懸念を引き起こしている。 既存のテキスト匿名化と、ルールベースのリアクションやスクラブのような非識別技術は、プライバシー保護とテキストの自然性と実用性のバランスをとるのに苦労することが多い。 我々は,一貫性,妥当性,自然性を保ちながら,秘密情報を体系的に難読化・削除するゼロショット木探索型反復文書き換えアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-09-25T07:23:52Z)
• DP-Fusion: Token-Level Differentially Private Inference for Large Language Models [51.71591819896191]
  大規模言語モデル(LLM)は、推論時にプライバシを保存しない。 DP-Fusion は LLM の出力にコンテキスト内のトークンの集合が持つ影響を証明的に束縛する。 提案手法は, 理論的および実証的プライバシを大幅に改善した, 証明可能な民営化文書を作成する。
  論文  参考訳（メタデータ） (2025-07-06T20:49:39Z)
• Urania: Differentially Private Insights into AI Use [102.27238986985698]
  $Urania$は、クラスタリング、パーティション選択、ヒストグラムベースの要約といったDPツールを活用することによって、エンドツーエンドのプライバシ保護を提供する。 結果は、厳密なユーザのプライバシを維持しながら、意味のある会話の洞察を抽出するフレームワークの能力を示している。
  論文  参考訳（メタデータ） (2025-06-05T07:00:31Z)
• DP-GPL: Differentially Private Graph Prompt Learning [8.885929731174492]
  PATEフレームワークに基づく差分プライベートグラフプロンプト学習のためのDP-GPLを提案する。 当社のアルゴリズムは,高能率を高いプライバシーで実現し,プライバシーの懸念を効果的に軽減することを示す。
  論文  参考訳（メタデータ） (2025-03-13T16:58:07Z)
• Preserving Node-level Privacy in Graph Neural Networks [8.939810456787173]
  グラフニューラルネットワーク(GNN)におけるノードレベルのプライバシの問題に対処するソリューションを提案する。 提案プロトコルは,1) 特定のノードサンプリング戦略と一連の調整操作を用いて所望の特性を持つサブグラフを生成するHeterPoissonと呼ばれるサンプリングルーチンと,2) 一般的に使用されるガウスノイズの代わりに対称ラプラスノイズを利用するランダム化ルーチンとからなる。 提案プロトコルは,実世界の5つのデータセットを用いた実験によって実証された,優れた性能でGNN学習を可能にする。
  論文  参考訳（メタデータ） (2023-11-12T16:21:29Z)
• Privacy Amplification via Shuffling for Linear Contextual Bandits [51.94904361874446]
  ディファレンシャルプライバシ(DP)を用いた文脈線形バンディット問題について検討する。 プライバシのシャッフルモデルを利用して,JDP と LDP のプライバシ/ユーティリティトレードオフを実現することができることを示す。 以上の結果から,ローカルプライバシを保ちながらシャッフルモデルを活用することで,JDPとDPのトレードオフを得ることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2021-12-11T15:23:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。