論文の概要: EP-Mem: Elastic Privacy Memory for Social Relationship-Aware LLM Agents
- arxiv url: http://arxiv.org/abs/2609.35233v1
- Date: Mon, 28 Sep 2026 14:10:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 15:53:43.226314
- Title: EP-Mem: Elastic Privacy Memory for Social Relationship-Aware LLM Agents
- Title（参考訳）: EP-Mem: 社会的関係を考慮したLDMエージェントのための弾力的プライバシメモリ
- Abstract要約: 本稿では,ソーシャルロール間のユーザ所有境界制御としてプライバシを再設計するElastic Privacy MemoryアーキテクチャEP-Memを提案する。
EP-Memは94.0%のプライバシー分類精度を達成し、開示許可判決を22%から68%に改善し、プライバシー漏洩を75.6%削減した。
- 参考スコア（独自算出の注目度）: 7.97374853753378
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) agents face critical privacy risks when acting as delegates in human-agent-human communication. To prevent such breaches, agents must understand users' social relationships and adhere to context-dependent social information disclosure boundaries. Current studies on agent memory privacy focus on instantaneous interactions, leaving the long-term relational disclosure problem unexplored. In this paper, we propose EP-Mem, an Elastic Privacy Memory architecture that reframes privacy as user-owned boundary control across social roles. EP-Mem introduces (1) token-level memory driven by user-configurable a privacy policy that stratifies persons and events, combining domain-level default circulation rules with fact-level whitelist/blacklist exceptions; and (2) a pluggable sidecar with a privacy engine that aligns disclosure controls with memory across summary, detail, and boundary granularities, enforced throughout generation, storage, and retrieval. We construct EP-Bench, to our knowledge the first long-term multi-party benchmark with cross-session correlated events for policy-conditioned relational disclosure. Experiments show that EP-Mem achieves 94.0% privacy classification accuracy, improves disclosure-permission judgment from 22% to 68%, and reduces privacy leakage by 75.6%, while maintaining retrieval performance and cross-benchmark generalization.
- Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、人間とエージェントのコミュニケーションにおいてデリゲートとして振る舞う際に、重大なプライバシー上のリスクに直面する。
このような侵害を防ぐため、エージェントはユーザーの社会的関係を理解し、文脈に依存した社会的情報開示の境界に従わなければならない。
エージェントメモリのプライバシーに関する最近の研究は、時間的相互作用に焦点をあてており、長期的な関係開示問題は未解明のままである。
本稿では,EP-Memを提案する。EP-Memは,プライバシをソーシャルロール間のユーザが所有するバウンダリコントロールとして再構成する,Elastic Privacy Memoryアーキテクチャである。
EP-Memでは,(1)個人とイベントを階層化するプライバシポリシによって駆動されるトークンレベルのメモリを導入し,ドメインレベルのデフォルト循環ルールとファクトレベルのホワイトリスト/ブラックリスト例外を併用する。
ポリシ条件付きリレーショナル開示のためのクロスセッション相関イベントを用いた,最初の長期マルチパーティベンチマークであるEP-Benchを構築した。
実験によると、EP-Memは94.0%のプライバシー分類精度を達成し、開示許可判定を22%から68%に改善し、プライバシー漏洩を75.6%低減し、検索性能とクロスベンチマークの一般化を維持している。
関連論文リスト
- Personalized Privacy Control in LLMs via Attention Head Intervention [21.49017923823084]
プライバシー管理にユーザ固有の開示設定を組み込んだ、テキストパーソナライズドプライバシを導入する。
また,P3Bench (textbfPersonalized textbfPrivacy textbfPreservation textbfBenchmark) も提案する。
提案手法は,モデルが所定のポリシーに従わなかった場合を減らすことにより,ユーザ固有のプライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシ・プライバシの適合性を大幅に向上させる。
論文 参考訳（メタデータ） (2026-08-21T15:22:20Z) - MemPrivacy: Privacy-Preserving Personalized Memory Management for Edge-Cloud Agents [58.65181747637314]
エッジデバイス上でのプライバシに敏感なスパンを識別するMemPrivacyを提案する。
クラウドサイドのメモリ処理のために、セマンティックに構造化されたタイプアウェアプレースホルダーに置き換えられる。
MemPrivacyは、効果的なメモリ生成と検索に必要な情報を保持しながら、機密データの露出を最小限にする。
論文 参考訳（メタデータ） (2026-05-10T13:31:58Z) - Mind Your HEARTBEAT! Claw Background Execution Inherently Enables Silent Memory Pollution [55.87577638514179]
この脆弱性はClawエコシステム全体で共有されるアーキテクチャ設計から生じる。
外部ソースから取り込まれたコンテンツは、フォアグラウンドインタラクションに使用される同じメモリコンテキストに入ることができる。
私たちはMissClawを使ってエージェントネイティブな社会設定でこの経路をインスタンス化する。
論文 参考訳（メタデータ） (2026-03-24T11:01:09Z) - PrivAct: Internalizing Contextual Privacy Preservation via Multi-Agent Preference Training [14.144464261335031]
PrivActは、コンテキスト対応のプライバシーを意識したマルチエージェント学習フレームワークである。
プライバシに準拠したエージェントアクションのために、コンテキストプライバシ保護を直接モデルの生成動作に内部化する。
実験では、コンテキストのプライバシー保護が一貫した改善を示し、リーク率を最大12.32%削減した。
論文 参考訳（メタデータ） (2026-02-14T18:07:51Z) - Semantically-Aware LLM Agent to Enhance Privacy in Conversational AI Services [0.0]
遠隔Large Language Models (LLM) を用いた場合, センシティブなPIIデータを保護するためのセマンティック・アウェア・プライバシ・エージェントを提案する。
応答品質を劣化させるような以前の作業とは異なり、我々のアプローチはユーザプロンプトのセンシティブなPIIエンティティを意味的に一貫した名前で動的に置き換える。
この結果から,LOPSIDEDは基本手法と比較して意味的ユーティリティエラーを5倍に削減できることがわかった。
論文 参考訳（メタデータ） (2025-10-30T21:34:23Z) - Information-theoretic Estimation of the Risk of Privacy Leaks [0.0]
データセット内のアイテム間の依存関係は、プライバシリークを引き起こす可能性がある。
本稿では,プライバシ侵害の可能性を示唆する指標として,元データとランダム化器からのノイズ応答の相関を計測する。
論文 参考訳（メタデータ） (2025-06-14T03:39:11Z) - Protecting Users From Themselves: Safeguarding Contextual Privacy in Interactions with Conversational Agents [33.26308626066122]
会話エージェント(LCA)とのユーザインタラクションにおけるコンテキストプライバシの概念を特徴付ける。
これは、ユーザーが意図した目標を達成するのに必要な情報のみを(ベンダー)が開示することを保証することで、プライバシー上のリスクを最小限にすることを目的としている。
本稿では,ユーザとLCA間のローカルデプロイ可能なフレームワークを提案する。
論文 参考訳（メタデータ） (2025-02-22T09:05:39Z) - PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。