論文の概要: Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation

• arxiv url: http://arxiv.org/abs/2608.09140v1
• Date: Mon, 10 Aug 2026 05:38:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:37.094707
• Title: Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation
• Title（参考訳）: 直接識別子を超えて:プライバシーに配慮したLLMクエリデリゲーションのための確率的プライバシリスク推定
• Abstract要約: プライバシーリスクは、明示的な識別子だけでなく、PIIのない自己開示にも起因している。 プライバシ・Conscious Delegation(プライバシ・コンセント・デリゲーション)に対処するための有用な補助指標としてk匿名性を提案する。
• 参考スコア（独自算出の注目度）: 20.31515213689976
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work on protecting privacy during user-LLM interactions often focuses on direct, explicit identifiers: the personally-identifiable information (PII) captured by standard detectors. One such approach is Privacy-Conscious Delegation (PCD), where a local LLM acts as an intermediary. However, privacy risk does not stem solely from explicit identifiers but also PII-free self-disclosures, leaving users identifiable through combinations of quasi-identifying traits. We investigate a probabilistic variant of PCD, where we augment its objectives with an LLM-driven probabilistic estimation of k-anonymity. To facilitate this, we first create the PUPA-SD dataset, which contains naturalistic user queries with self-disclosure. Our preliminary results indicate that optimizing PAPILLON on PUPA-SD improves quality on unseen conversations across a variety of local models and produces the best privacy-utility balance for Llama-3.2-3B, while smaller models struggle to jointly optimize quality and privacy. We propose k-anonymity as a useful auxiliary metric for tackling PCD.
• Abstract（参考訳）: ユーザ-LLMインタラクション中のプライバシ保護に関する最近の研究は、しばしば直接的で明示的な識別子に焦点を当てている。 そのようなアプローチの1つがプライバシ・コンシャス・デリゲーション(PCD)であり、ローカルなLCMが仲介役を務める。 しかし、プライバシーリスクは、明示的な識別子だけでなく、PIIのない自己開示にも起因している。 我々はPCDの確率的変種について検討し、LLMによるk-匿名性の確率論的推定により目的を拡大する。 これを容易にするために、我々はまず、自己開示を伴う自然なユーザクエリを含むPUPA-SDデータセットを作成します。 予備的な結果から,PUPA-SD上でのPAPILLONの最適化は,様々なローカルモデルにおける未確認会話の品質向上と,Llama-3.2-3Bにおける最高のプライバシ・ユーティリティバランスを実現する一方で,小型モデルでは品質とプライバシの最適化に苦慮していることが示唆された。 そこで本研究では,PCDに対処するための補助的指標としてk匿名性を提案する。

関連論文リスト

• Benchmarking Empirical Privacy Protection for Adaptations of Large Language Models [35.164227002323706]
  大規模言語モデル(LLM)におけるDP適応下のプライバシーリスクについて検討する。 我々は、ロバストなメンバシップ推論やカナリアデータ抽出といった最先端攻撃を用いて、これらのリスクをベンチマークする。 パラメータ効率のよいLoRAのような微調整手法は,OODデータに対して最も高いプライバシー保護を実現する。
  論文  参考訳（メタデータ） (2026-06-08T12:21:02Z)
• IDP-Bench: Benchmarking ability of LLMs to protect personal information in interdependent privacy contexts [15.026169063578697]
  大規模言語モデル(LLM)は、機密性の高いユーザデータにアクセス可能なパーソナルAIアシスタントとして広くデプロイされている。 それまでの研究は主に個人レベルのリスクに焦点が当てられていたが、これはテキスタイルに依存したプライバシー(IDP:textbfinterdependent privacy)を見落としている。 IDP シナリオのための最初の LLM ベンチマークである textbfIDP-Bench を Contextual Integrity (CI) フレームワークに基づいて紹介する。
  論文  参考訳（メタデータ） (2026-06-06T07:59:08Z)
• Profiling for Pennies: Unveiling the Privacy Iceberg of LLM Agents [52.02752011119451]
  我々は人間の意識のレンズを通して現実世界におけるプライバシーの認識を調査する。 我々は、現実世界の人間のプライバシーリスクを3段階に分類するPrivacyIcebergを提案する。
  論文  参考訳（メタデータ） (2026-05-07T13:21:44Z)
• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• PBa-LLM: Privacy- and Bias-aware NLP using Named-Entity Recognition (NER) [45.870212237420226]
  本研究では,Large Language Models(LLMs)のプライバシ保護トレーニングを容易にするために,NER(Named-Entity Recognition)の使用について検討する。 我々は,NER技術を用いて個人識別や地理的位置情報などのテキストデータ中の機密情報を匿名化するフレームワークを提案する。 この研究は2つの言語モデル(BERTとRoBERTa)と6つの匿名化アルゴリズム(Presidio、FLAIR、BERT、および異なるバージョンのGPT)を24,000の候補プロファイルのデータベースに適用した。
  論文  参考訳（メタデータ） (2025-06-30T14:42:49Z)
• Evaluating Differential Privacy on Correlated Datasets Using Pointwise Maximal Leakage [38.4830633082184]
  データ駆動の進歩はプライバシーに重大なリスクをもたらす。 差分プライバシーは プライバシー保護の 基盤になっている 私たちの研究は、微妙なプライバシーリスクの理解を深め、より効果的なプライバシー保護メカニズムの開発の必要性を強調することを目的としています。
  論文  参考訳（メタデータ） (2025-02-08T10:30:45Z)
• Communication-Efficient and Privacy-Adaptable Mechanism for Federated Learning [54.20871516148981]
  通信効率・プライバシー適応メカニズム(CEPAM)について紹介する。 CEPAMは通信効率とプライバシー保護を同時に達成する。 我々は、CEPAMのプライバシー保証を理論的に分析し、CEPAMのユーザプライバシと正確性の間のトレードオフを調査する。
  論文  参考訳（メタデータ） (2025-01-21T11:16:05Z)
• Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy [55.357715095623554]
  ローカル微分プライバシー(LDP)は、ユーザーが外部の関係者を信頼することなく、強力なプライバシー保証を提供する。 本稿では,ベイジアン・フレームワークであるベイジアン・コーディネート・ディファレンシャル・プライバシ(BCDP)を提案する。
  論文  参考訳（メタデータ） (2024-10-24T03:39:55Z)
• DePrompt: Desensitization and Evaluation of Personal Identifiable Information in Large Language Model Prompts [11.883785681042593]
  DePromptは、プロンプトのための脱感作保護および有効性評価フレームワークである。 我々は、コンテキスト属性を統合し、プライバシタイプを定義し、高精度なPIIエンティティ識別を実現する。 私たちのフレームワークはプロンプトに適応可能で、テキストのユーザビリティに依存したシナリオに拡張できます。
  論文  参考訳（メタデータ） (2024-08-16T02:38:25Z)
• Mind the Privacy Unit! User-Level Differential Privacy for Language Model Fine-Tuning [62.224804688233]
  差分プライバシ(DP)は、モデルが特定のプライバシユニットで「ほとんど区別できない」ことを保証することで、有望なソリューションを提供する。 ユーザ間でのプライバシー保護の確保に必要なアプリケーションによって動機づけられたユーザレベルのDPについて検討する。
  論文  参考訳（メタデータ） (2024-06-20T13:54:32Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。