論文の概要: Say Something Else: Rethinking Contextual Privacy as Information Sufficiency

• arxiv url: http://arxiv.org/abs/2604.06409v1
• Date: Tue, 07 Apr 2026 19:44:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.21197
• Title: Say Something Else: Rethinking Contextual Privacy as Information Sufficiency
• Title（参考訳）: コンテキストプライバシを情報満足度として再考する
• Authors: Yunze Xiao, Wenkai Li, Xiaoyuan Wu, Ningshan Ma, Yueqi Song, Weihao Xuan,
• Abstract要約: LLMエージェントは、ユーザーに代わってメッセージの草案を作成する傾向にあるが、ユーザーは頻繁に機密情報を共有し、何がプライベートであるかについては意見が一致しない。 既存のシステムでは、抑圧(機密情報の省略)と一般化(抽象情報)のみをサポートしている。 我々は、プライバシを保存するLLM通信をtextbfInformation Sufficiency (IS) タスクとして形式化し、センシティブな属性を機能的に等価な代替品に置き換える第3の戦略としてtextbffree-text pseudonymizationを導入する。
• 参考スコア（独自算出の注目度）: 10.987422453332805
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents increasingly draft messages on behalf of users, yet users routinely overshare sensitive information and disagree on what counts as private. Existing systems support only suppression (omitting sensitive information) and generalization (replacing information with an abstraction), and are typically evaluated on single isolated messages, leaving both the strategy space and evaluation setting incomplete. We formalize privacy-preserving LLM communication as an \textbf{Information Sufficiency (IS)} task, introduce \textbf{free-text pseudonymization} as a third strategy that replaces sensitive attributes with functionally equivalent alternatives, and propose a \textbf{conversational evaluation protocol} that assesses strategies under realistic multi-turn follow-up pressure. Across 792 scenarios spanning three power-relation types (institutional, peer, intimate) and three sensitivity categories (discrimination risk, social cost, boundary), we evaluate seven frontier LLMs on privacy at two granularities, covertness, and utility. Pseudonymization yields the strongest privacy\textendash utility tradeoff overall, and single-message evaluation systematically underestimates leakage, with generalization losing up to 16.3 percentage points of privacy under follow-up.
• Abstract（参考訳）: LLMエージェントは、ユーザーに代わってメッセージの草案を作成する傾向にあるが、ユーザーは頻繁に機密情報を共有し、何がプライベートであるかについては意見が一致しない。 既存のシステムは、抑圧(機密情報の省略)と一般化(抽象化による情報更新)のみをサポートし、通常は単一の孤立したメッセージで評価され、戦略空間と評価設定の両方が不完全である。 本稿では,プライバシ保護のためのLCM通信を,機能的に等価な代替手段に置き換える第3の戦略として「textbf{information Sufficiency(IS)」タスクとして定式化し,リアルなマルチターン追従圧力下で戦略を評価する「textbf{conversational evaluation protocol」を提案する。 792のシナリオは,3種類のパワーリレーションタイプ(制度,ピア,親密性)と3つの感度カテゴリ(識別リスク,社会的コスト,境界)にまたがって,プライバシ上の7つのフロンティアLSMを2つの粒度,隠蔽性,ユーティリティで評価した。 Pseudonymizationは、プライバシー/textendashユーティリティのトレードオフ全体において最強であり、シングルメッセージ評価は体系的にリークを過小評価し、一般化はフォローアップで最大16.3%のプライバシポイントを失う。

関連論文リスト

• Anonymous-by-Construction: An LLM-Driven Framework for Privacy-Preserving Text [0.42821598129654453]
  テキストを匿名化するLLM駆動置換パイプラインをオンプレミスで開発する。 プライバシー、セマンティックユーティリティ、およびプライバシー下でのトレーサビリティを測定します。 提案手法は,最先端のプライバシ,トピックドリフトの最小化,実効性の向上,トレーニング可能性の低下を実現する。
  論文  参考訳（メタデータ） (2026-03-17T23:46:15Z)
• MultiPriv: Benchmarking Individual-Level Privacy Reasoning in Vision-Language Models [14.942122955210436]
  現代のビジョンランゲージモデル(VLM)は、洗練された推論を示し、プライバシーリスクをエスカレートする。 現在のプライバシーベンチマークは、この新たな脅威に対して構造的に不十分である。 個人レベルのプライバシ推論を体系的に評価するための最初のベンチマークである textbfMultiPriv を提案する。
  論文  参考訳（メタデータ） (2025-11-21T04:33:11Z)
• VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks [51.68795949691009]
  差分プライバシとメンバシップ推論に基づくフレームワークであるVoxGuardを紹介した。 属性については, 匿名化後も, 性別やアクセントをほぼ完全精度で再現できることが示唆された。 以上の結果から,EERはリークを著しく過小評価し,低FPR評価の必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-09-22T20:57:48Z)
• The Double-edged Sword of LLM-based Data Reconstruction: Understanding and Mitigating Contextual Vulnerability in Word-level Differential Privacy Text Sanitization [53.51921540246166]
  我々は,言語大モデル (LLM) がDP対応テキストの文脈的脆弱性を活用可能であることを示す。 LLM再建の二重刃剣効果がプライバシーと実用性に与える影響を実験的に明らかにした。 本稿では,データ再構成を後処理のステップとして使用するための推奨事項を提案する。
  論文  参考訳（メタデータ） (2025-08-26T12:22:45Z)
• MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
  LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。 まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。 次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
  論文  参考訳（メタデータ） (2025-06-25T18:04:25Z)
• Generating Privacy-Preserving Personalized Advice with Zero-Knowledge Proofs and LLMs [0.6906005491572401]
  ゼロ知識証明技術,特にzkVMを大規模言語モデル(LLM)と統合するフレームワークを提案する。 この統合により、機密情報を開示することなく、ユーザの特性を検証することにより、プライバシ保護データ共有が可能になる。
  論文  参考訳（メタデータ） (2025-02-10T13:02:00Z)
• PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
  PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。 プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
  論文  参考訳（メタデータ） (2024-08-29T17:58:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。