論文の概要: Personalized Privacy Control in LLMs via Attention Head Intervention
- arxiv url: http://arxiv.org/abs/2608.21209v1
- Date: Fri, 21 Aug 2026 15:22:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.619504
- Title: Personalized Privacy Control in LLMs via Attention Head Intervention
- Title（参考訳）: 注意頭介入によるLDMの個人化プライバシ制御
- Abstract要約: プライバシー管理にユーザ固有の開示設定を組み込んだ、テキストパーソナライズドプライバシを導入する。
また,P3Bench (textbfPersonalized textbfPrivacy textbfPreservation textbfBenchmark) も提案する。
提案手法は,モデルが所定のポリシーに従わなかった場合を減らすことにより,ユーザ固有のプライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシの適合性を大幅に向上させる。
- 参考スコア（独自算出の注目度）: 21.49017923823084
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The rise of agentic AI enables LLMs to access diverse user data, raising critical privacy concerns. Prior work on contextual privacy studies whether LLMs regulate information disclosure according to context-dependent norms. However, acceptable disclosure boundaries may vary across users even within the same context. To address this limitation, we introduce \textit{personalized privacy}, which incorporates user-specific disclosure preferences into privacy control. We further present P3Bench~(\textbf{P}ersonalized \textbf{P}rivacy \textbf{P}reservation \textbf{Bench}mark), a novel benchmark extending contextual privacy policies with personalized disclosure policies. Experiments show that prompt-based policies fail to reliably enforce personalized privacy policies, with Qwen2.5-7B and Gemma3-4B showing average policy ignorance ratios of 51.25\% and 74.28\%, respectively. Finally, to address this problem, we propose \textsc{Repair}, a robust inference-time attention head intervention method that adjusts disclosure behavior toward policy-consistent responses. Our method significantly improves adherence to user-specific privacy preferences by reducing cases where the model fails to follow the given policy.
- Abstract（参考訳）: エージェントAIの台頭により、LLMは多様なユーザデータにアクセスでき、重要なプライバシー上の懸念を生じさせる。
LLMが文脈依存の規範に従って情報開示を規制するかどうかの文脈プライバシー研究に先立つ研究である。
しかし、許容範囲の開示境界は、同じコンテキスト内でもユーザによって異なる可能性がある。
この制限に対処するために、ユーザ固有の開示設定をプライバシコントロールに組み込んだ、‘textit{personalized privacy’を導入する。
P3Bench~(\textbf{P}ersonalized \textbf{P}rivacy \textbf{P}reservation \textbf{Bench}mark)は、パーソナライズされた開示ポリシーによるコンテキストプライバシポリシを拡張する新しいベンチマークである。
Qwen2.5-7B と Gemma3-4B はそれぞれ 51.25\% と 74.28\% である。
最後に、この問題を解決するために、ポリシーに一貫性のある応答に対する開示行動を調整する頑健な推論時アテンションヘッド介入法である「textsc{Repair}」を提案する。
提案手法は,モデルが所定のポリシーに従わなかった場合を減らすことにより,ユーザ固有のプライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシの適合性を大幅に向上させる。
関連論文リスト
- Seeing Without Exposing: Adaptive Privacy Control for Open-World, Context-Hungry MLLMs [61.80513991207956]
MLLMにおけるプライバシー問題に対処するために,Anchored Privacy Drifting (APD)を提案する。
APDは、コンテキストキューをソースイメージに固定しながら、意味論的に等価な代替手段に向けて、プライバシに敏感な要素をドリフトする。
本手法は,プライバシ・サニタイゼーションとコンテンツ保持の両面でバランスのとれた改善を実現する。
論文 参考訳（メタデータ） (2026-06-05T11:41:39Z) - Towards Usable Privacy Management for IoT TAPs: Deriving Privacy Clusters and Preference Profiles [1.2744523252873352]
IoT Trigger-Action Platforms(TAP)は通常、粗い粒度のパーミッションコントロールを提供する。
本稿では,異なるタイプのユーザに対して,プライバシクラスタとプロファイルを導出することで,TAPのユーザプライバシ管理に寄与する。
論文 参考訳（メタデータ） (2025-11-14T12:08:58Z) - MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。
まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。
次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
論文 参考訳（メタデータ） (2025-06-25T18:04:25Z) - Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy [55.357715095623554]
ローカル微分プライバシー(LDP)は、ユーザーが外部の関係者を信頼することなく、強力なプライバシー保証を提供する。
本稿では,ベイジアン・フレームワークであるベイジアン・コーディネート・ディファレンシャル・プライバシ(BCDP)を提案する。
論文 参考訳（メタデータ） (2024-10-24T03:39:55Z) - PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z) - The Privacy Policy Permission Model: A Unified View of Privacy Policies [0.5371337604556311]
プライバシポリシ(英: privacy policy)とは、組織がどのようにクライアントのデータを収集し、利用し、開示し、保持するかを指定するステートメントのセットである。
ほとんどのプライバシポリシには、データプロバイダの情報の使用方法に関する明確で完全な説明が欠けている。
本稿では,プライバシーポリシーの統一的かつ理解しやすい表現を提供するプライバシポリシ許可モデル(PPPM)を提案する。
論文 参考訳（メタデータ） (2024-03-26T06:12:38Z) - SeePrivacy: Automated Contextual Privacy Policy Generation for Mobile
Applications [21.186902172367173]
SeePrivacyは、モバイルアプリのコンテキストプライバシポリシを自動的に生成するように設計されている。
本手法は,モバイルGUI理解とプライバシポリシ文書解析を相乗的に組み合わせた手法である。
検索されたポリシーセグメントの96%は、そのコンテキストと正しく一致させることができる。
論文 参考訳（メタデータ） (2023-07-04T12:52:45Z) - Exploring Consequences of Privacy Policies with Narrative Generation via
Answer Set Programming [0.0]
プライバシポリシの形式化にAnswer Set Programming(ASP)を使用するフレームワークを提案する。
ASP.NETは、エンドユーザがアクターの観点からポリシーの結果を前方にシミュレートすることを可能にする。
本稿では,健康保険の可搬性と説明責任法(Health Insurance Portability and Accountability Act)の事例を通じて,様々な方法でシステムを利用する方法を紹介する。
論文 参考訳（メタデータ） (2022-12-13T16:44:46Z) - Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。
まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。
そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2020-09-18T20:18:35Z) - PGLP: Customizable and Rigorous Location Privacy through Policy Graph [68.3736286350014]
我々はPGLPと呼ばれる新しい位置プライバシーの概念を提案し、カスタマイズ可能で厳格なプライバシー保証を備えたプライベートロケーションをリリースするためのリッチなインターフェースを提供する。
具体的には,ユーザの位置プライバシー要件を,表現的かつカスタマイズ可能なテキスト配置ポリシーグラフを用いて形式化する。
第3に、位置露光の検出、ポリシーグラフの修復、およびカスタマイズ可能な厳格な位置プライバシーを備えたプライベートな軌跡リリースをパイプライン化する、プライベートな位置トレースリリースフレームワークを設計する。
論文 参考訳（メタデータ） (2020-05-04T04:25:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。