論文の概要: PromptPET: Privacy-Utility Optimized Prompt Obfuscation

• arxiv url: http://arxiv.org/abs/2607.02932v1
• Date: Fri, 03 Jul 2026 03:59:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.463933
• Title: PromptPET: Privacy-Utility Optimized Prompt Obfuscation
• Title（参考訳）: PromptPET:プライバシーを最適化したPromptの難読化
• Abstract要約: ユーザプロンプト内のセンシティブな情報を変換するユーザ側機構を通じて,ユーザのプライバシを保護することを目的としている。 このアプローチは、プライバシ保護とユーティリティ保護の本質的にのトレードオフに直面します。 本稿では,プロンプトの敏感な部位ごとに最適な難燃作用を選択するエージェントであるPROMPTPETを紹介する。
• 参考スコア（独自算出の注目度）: 6.5675177002666665
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Privacy is an important challenge when users interact with AI chatbots, since users may share sensitive information, explicitly or implicitly, and AI chatbots can use this information for user profiling. In this paper, we aim to protect user privacy via a user-side mechanism that transforms sensitive information in a user prompt, while preserving enough information to elicit a useful response from the chatbot. This approach faces an inherent tradeoff between protecting privacy (i.e., avoiding profiling) and preserving utility (i.e., getting personalized and task-specific responses). To that end, we consider, evaluate, and compare four different obfuscation actions, namely redaction, abstraction, replacement, and a novel noising/denoising scheme that we introduce. Additional novel insights include: utilizing a data type taxonomy to both identify and obfuscate sensitive information and explicitly taking into account the utility of chat responses in making the obfuscation decision. First, we systematically optimize and evaluate each obfuscation action independently in terms of the privacy-utility tradeoff it achieves. Second, we propose PROMPTPET, an LLM-based agent that selects the best obfuscation action for each sensitive part of the prompt, using a reinforcement-learning inspired rule optimizer, applied for the first time in this context. Using a real-world chat dataset, we show that PROMPTPET matches the best privacy-utility tradeoff attainable by any single obfuscation action and significantly outperforms prior state-of-the-art approaches.
• Abstract（参考訳）: ユーザが機密情報を明示的にあるいは暗黙的に共有し、AIチャットボットはユーザープロファイリングにこの情報を使用することができるため、AIチャットボットと対話する場合、プライバシは重要な課題である。 本稿では,チャットボットから有用な応答を引き出すのに十分な情報を保持しつつ,ユーザプロンプト内のセンシティブな情報を変換するユーザ側機構を通じてユーザプライバシを保護することを目的とする。 このアプローチは、プライバシ保護(プロファイリングの回避)とユーティリティ保護(パーソナライズとタスク固有のレスポンス獲得)の本質的にのトレードオフに直面します。 その目的のために、我々は4つの異なる難読化行動、すなわち、再作用、抽象化、置換、そして、導入する新しいノイズ化/デノベーションスキームを考察し、評価し、比較する。 機密情報の識別と難読化の両方にデータ型分類を利用し、難読化決定を行う際のチャット応答の有用性を明示的に考慮する。 まず、プライバシとユーティリティのトレードオフによって、各難読化アクションを独立して体系的に最適化し、評価する。 第二に,この文脈で初めて適用された強化学習型ルールオプティマイザを用いて,プロンプトの各センシティブな部分に対して最適な難燃作用を選択するLLMベースのエージェントであるProMPTPETを提案する。 実世界のチャットデータセットを用いて、PROMPTPETは、いかなる難読化アクションでも達成可能な最高のプライバシーユーティリティトレードオフと一致し、最先端のアプローチよりも大幅に優れていることを示す。

関連論文リスト

• Investigating In-Context Privacy Learning by Integrating User-Facing Privacy Tools into Conversational Agents [0.1390311627586184]
  プライバシツールとのインタラクションによってユーザのプライバシ学習が促進されるかを検討することで,コンテキスト内,経験的学習について検討する。 ジャスト・イン・タイムのプライバシー通知パネルをChatGPTのインターフェースに統合し、シミュレーションした。 我々は,ユーザ主導による機密情報の保護を支援したり妨げたりするタスクセッションやインターフェースデザインの前後における,参加者のプライバシに対する認識を質的に分析した。
  論文  参考訳（メタデータ） (2026-03-19T19:18:40Z)
• Understanding Users' Privacy Reasoning and Behaviors During Chatbot Use to Support Meaningful Agency in Privacy [0.1390311627586184]
  本研究は,学生の行動開示と保護行動,およびこれらの行動の基礎となる理由について検討した。 参加者は、メッセージの送信を傍受するプライバシー通知パネルで、シミュレーションされたChatGPTインターフェースを使用した。 我々は、パネルがプライバシーの意識を高め、保護行為を奨励し、保護すべき情報と方法に関するコンテキスト特異的な推論をサポートする方法について分析した。
  論文  参考訳（メタデータ） (2026-01-26T04:13:45Z)
• Semantically-Aware LLM Agent to Enhance Privacy in Conversational AI Services [0.0]
  遠隔Large Language Models (LLM) を用いた場合, センシティブなPIIデータを保護するためのセマンティック・アウェア・プライバシ・エージェントを提案する。 応答品質を劣化させるような以前の作業とは異なり、我々のアプローチはユーザプロンプトのセンシティブなPIIエンティティを意味的に一貫した名前で動的に置き換える。 この結果から,LOPSIDEDは基本手法と比較して意味的ユーティリティエラーを5倍に削減できることがわかった。
  論文  参考訳（メタデータ） (2025-10-30T21:34:23Z)
• Zero-Shot Privacy-Aware Text Rewriting via Iterative Tree Search [60.197239728279534]
  クラウドベースのサービスにおける大規模言語モデル(LLM)は、重大なプライバシー上の懸念を引き起こしている。 既存のテキスト匿名化と、ルールベースのリアクションやスクラブのような非識別技術は、プライバシー保護とテキストの自然性と実用性のバランスをとるのに苦労することが多い。 我々は,一貫性,妥当性,自然性を保ちながら,秘密情報を体系的に難読化・削除するゼロショット木探索型反復文書き換えアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-09-25T07:23:52Z)
• VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks [51.68795949691009]
  差分プライバシとメンバシップ推論に基づくフレームワークであるVoxGuardを紹介した。 属性については, 匿名化後も, 性別やアクセントをほぼ完全精度で再現できることが示唆された。 以上の結果から,EERはリークを著しく過小評価し,低FPR評価の必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-09-22T20:57:48Z)
• Protecting Users From Themselves: Safeguarding Contextual Privacy in Interactions with Conversational Agents [33.26308626066122]
  会話エージェント(LCA)とのユーザインタラクションにおけるコンテキストプライバシの概念を特徴付ける。 これは、ユーザーが意図した目標を達成するのに必要な情報のみを(ベンダー)が開示することを保証することで、プライバシー上のリスクを最小限にすることを目的としている。 本稿では,ユーザとLCA間のローカルデプロイ可能なフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-22T09:05:39Z)
• Activity Recognition on Avatar-Anonymized Datasets with Masked Differential Privacy [64.32494202656801]
  プライバシを保存するコンピュータビジョンは、機械学習と人工知能において重要な問題である。 本稿では,ビデオデータセット中の感性のある被験者を文脈内の合成アバターに置き換える匿名化パイプラインを提案する。 また、匿名化されていないがプライバシーに敏感な背景情報を保護するため、MaskDPを提案する。
  論文  参考訳（メタデータ） (2024-10-22T15:22:53Z)
• Mind the Privacy Unit! User-Level Differential Privacy for Language Model Fine-Tuning [62.224804688233]
  差分プライバシ(DP)は、モデルが特定のプライバシユニットで「ほとんど区別できない」ことを保証することで、有望なソリューションを提供する。 ユーザ間でのプライバシー保護の確保に必要なアプリケーションによって動機づけられたユーザレベルのDPについて検討する。
  論文  参考訳（メタデータ） (2024-06-20T13:54:32Z)
• NAP^2: A Benchmark for Naturalness and Privacy-Preserving Text Rewriting by Learning from Human [56.46355425175232]
  我々は,人間によって使用される2つの共通戦略を用いて,機密テキストの衛生化を提案する。 我々は,クラウドソーシングと大規模言語モデルの利用を通じて,NAP2という最初のコーパスをキュレートする。 匿名化に関する以前の研究と比較すると、人間に触発されたアプローチはより自然な書き直しをもたらす。
  論文  参考訳（メタデータ） (2024-06-06T05:07:44Z)
• Words Blending Boxes. Obfuscating Queries in Information Retrieval using Differential Privacy [7.831978389504435]
  情報検索システム(IRS)がユーザのプライバシを保護していない場合、システムに送信されたクエリを通じて機密情報を開示することができる。 最近の改良、特にNLPは、テキストを難読化するために差分プライバシーを使用する可能性を示している。 本稿では,クエリ難読化のための新しいプライベートなメカニズムであるWord Blending Boxesを提案する。
  論文  参考訳（メタデータ） (2024-05-15T12:51:36Z)
• OPOM: Customized Invisible Cloak towards Face Privacy Protection [58.07786010689529]
  我々は、新しいタイプのカスタマイズクロークに基づく技術の観点から、顔のプライバシ保護について検討する。 本研究では,個人固有の(クラスワイドな)ユニバーサルマスクを生成するために,1人1マスク(OPOM)という新しい手法を提案する。 提案手法の有効性を,共通データセットと有名データセットの両方で評価した。
  論文  参考訳（メタデータ） (2022-05-24T11:29:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。