論文の概要: InferPriv: Evaluating Inferential Privacy Leakage in LLM Assistants

• arxiv url: http://arxiv.org/abs/2610.34640v1
• Date: Sun, 25 Oct 2026 23:51:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.652691
• Title: InferPriv: Evaluating Inferential Privacy Leakage in LLM Assistants
• Title（参考訳）: InferPriv: LLMアシスタントにおける推論プライバシ漏洩の評価
• Abstract要約: 大規模言語モデル(LLM)ベースのパーソナルエージェントは、ユーザに代わって日々のタスクを処理するために、ますます多くデプロイされている。 このベンチマークは,LLMのルーチンタスクに対する応答から,ユーザのセンシティブな属性を推測できるかどうかを計測する。
• 参考スコア（独自算出の注目度）: 27.468816113186957
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM)-based personal agents are increasingly deployed to handle everyday tasks on users' behalf. These agents have access to private user information, while their tasks involve communicating with third parties; this raises a critical privacy concern that agents may inappropriately reveal sensitive user information to these recipients. Existing benchmarks primarily assess direct privacy leakage, where an agent explicitly states a pre-specified secret or attribute. However, they do not capture \textit{inferential leakage}, where the model leaves indirect cues in the reply that implicitly leaks sensitive attributes. We introduce \textsc{InferPriv}, a benchmark that measures whether an honest-but-curious recipient can infer a user's sensitive attributes from an LLM's reply on routine task. Evaluating five frontier models, we find that inferential leakage substantially exceeds direct leakage across models and prompts. Under a privacy-aware system prompt, GPT-6.1-Sol, Sonnet-5.5, and Gemini-3.8-Flash achieve near-zero direct leakage, yet the inferential leakage rate remains between 16.2--25.2\%. These findings suggest that evaluating explicit leakage alone can substantially understate the privacy risks.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースのパーソナルエージェントは、ユーザに代わって日々のタスクを処理するために、ますます多くデプロイされている。 これらのエージェントはプライベートなユーザー情報にアクセスでき、それらのタスクはサードパーティと通信する。 既存のベンチマークは、エージェントが指定された秘密または属性を明示的に記述する直接のプライバシー漏洩を主に評価する。 しかし、モデルが機密属性を暗黙的にリークする返信に間接的な手がかりを残している、 \textit{inferential leakage} をキャプチャしない。 そこで,本研究では,日常業務におけるLCMの応答から,ユーザの機密属性を推測できるかどうかを測定するベンチマーク「textsc{InferPriv}」を紹介した。 5つのフロンティアモデルを評価すると、推論リークがモデルとプロンプト間の直接リークを大きく超えていることが分かる。 プライバシーを意識したシステムプロンプトでは、GPT-6.1-Sol、Sonnet-5.5、Gemini-3.8-Flashがほぼゼロに近い直接リークを達成しているが、推論リーク率は16.2-25.2\%である。 これらの結果は、露骨な漏洩のみを評価することは、プライバシーのリスクを大幅に減らす可能性があることを示唆している。

関連論文リスト

• PrivacyAlign: Contextual Privacy Alignment for LLM Agents [38.3523446169468]
  これは599のユニークなアノテーションから3,516の詳細なアノテーションを備えた1,350のサンプルからなるデータセットです。 まず、人間のアノテーションや参照応答の説明にLLMの判断を条件付けることで、その判断がより信頼性が高いことを示す。 次に、アノテーション条件付き報酬モデルを導入し、これらのアノテーションを用いてRL中に新しいレスポンスをスコアする。
  論文  参考訳（メタデータ） (2026-06-19T19:50:55Z)
• PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
  LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。 既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。 LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
  論文  参考訳（メタデータ） (2026-05-29T04:55:12Z)
• MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents [76.60965179634664]
  ディープリサーチエージェントは、プライベートなローカルドキュメントをWeb検索のような外部ツールと組み合わせて、プライバシーリスクを生じさせている。 プライベートなエンタープライズドキュメントとパブリックなWebコーパスをチェーンする1,001のディープリサーチタスクのベンチマークであるMosaicLeaksを紹介します。 私たちは、家族やサイズにわたるモデルが3つのレベルすべてに頻繁にリークしていることに気付きました。
  論文  参考訳（メタデータ） (2026-05-29T01:44:35Z)
• Semantically-Aware LLM Agent to Enhance Privacy in Conversational AI Services [0.0]
  遠隔Large Language Models (LLM) を用いた場合, センシティブなPIIデータを保護するためのセマンティック・アウェア・プライバシ・エージェントを提案する。 応答品質を劣化させるような以前の作業とは異なり、我々のアプローチはユーザプロンプトのセンシティブなPIIエンティティを意味的に一貫した名前で動的に置き換える。 この結果から,LOPSIDEDは基本手法と比較して意味的ユーティリティエラーを5倍に削減できることがわかった。
  論文  参考訳（メタデータ） (2025-10-30T21:34:23Z)
• MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
  LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。 まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。 次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
  論文  参考訳（メタデータ） (2025-06-25T18:04:25Z)
• Privacy Leakage Overshadowed by Views of AI: A Study on Human Oversight of Privacy in Language Model Agent [3.89966779727297]
  個人のタスクを代行する言語モデル(LM)エージェントは生産性を向上するが、意図しないプライバシー漏洩のリスクも受けやすい。 本研究は、LMエージェントのプライバシ含意を監督する人々の能力に関する最初の研究である。
  論文  参考訳（メタデータ） (2024-11-02T19:15:42Z)
• PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
  PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。 プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
  論文  参考訳（メタデータ） (2024-08-29T17:58:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。