論文の概要: What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents

• arxiv url: http://arxiv.org/abs/2608.16551v1
• Date: Mon, 17 Aug 2026 13:23:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.712149
• Title: What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents
• Title（参考訳）: 思い出すべきこと:会話エージェントのプライバシーを意識した記憶
• Abstract要約: 長期記憶により、パーソナライズされた会話エージェントはセッション間でユーザー情報を保持できる。 既存のメモリアーキテクチャは、主にユーティリティのために最適化され、個人識別情報などの個人属性を不要に保存・再利用するリスクを無視する(PII)。 プライバシを意識したメモリアーキテクチャであるS Sanitized Privacy-Mapped Memory (SP-Mem)を導入する。
• 参考スコア（独自算出の注目度）: 24.32447231758722
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-term memory enables personalized conversational agents to retain user information across sessions. However, existing memory architectures primarily optimize for utility while neglecting the risks of unnecessarily storing and reusing private attributes such as personally identifiable information (PII). Addressing privacy risks in personalized memory is challenging because simply removing sensitive values can undermine system utility. Therefore, privacy protection for memory agents should govern the full life cycle of sensitive values rather than only sanitizing individual records. To address this gap, we introduce Sanitized Privacy-Mapped Memory (SP-Mem), a privacy-aware memory architecture that decouples memory utility from exact private-value exposure. SP-Mem provides a full life-cycle privacy design that identifies and separates sensitive information from raw user inputs, stores sanitized content and exact private values in isolated structures, and selectively retrieves private values based on task requirements and user consent. We further introduce a privacy-aware memory benchmark that jointly evaluates response quality, privacy behavior, and inference cost. Extensive experiments across multiple LLM-based agents show that SP-Mem achieves stronger personalization while reducing unnecessary privacy exposure. Code and data are available at https://github.com/Jensassss/SP-Mem.
• Abstract（参考訳）: 長期記憶により、パーソナライズされた会話エージェントはセッション間でユーザー情報を保持できる。 しかし、既存のメモリアーキテクチャは主にユーティリティのために最適化され、個人識別情報(PII)のようなプライベート属性を不要に保存し再利用するリスクを無視する。 パーソナライズされたメモリにおけるプライバシーリスクへの対処は、機密性の高い値を削除するだけでシステムユーティリティを損なう可能性があるため、難しい。 したがって、メモリエージェントに対するプライバシ保護は、個々のレコードを衛生化するのではなく、センシティブな値のライフサイクル全体を管理すべきである。 このギャップに対処するために、プライバシを意識したメモリアーキテクチャであるS Sanitized Privacy-Mapped Memory (SP-Mem)を紹介します。 SP-Memは、機密情報を生のユーザ入力から識別し、分離した構造に衛生化されたコンテンツと正確なプライベート値を格納し、タスク要求とユーザ同意に基づいて、選択的にプライベート値を取得する、完全なライフサイクルプライバシ設計を提供する。 さらに、応答品質、プライバシの振る舞い、推論コストを共同で評価するプライバシ対応メモリベンチマークを導入する。 複数のLDMエージェントに対する大規模な実験により、SP-Memはより強力なパーソナライズを実現し、不要なプライバシー露出を低減できることが示された。 コードとデータはhttps://github.com/Jensassss/SP-Mem.comで公開されている。

関連論文リスト

• MemPrivacy: Privacy-Preserving Personalized Memory Management for Edge-Cloud Agents [58.65181747637314]
  エッジデバイス上でのプライバシに敏感なスパンを識別するMemPrivacyを提案する。 クラウドサイドのメモリ処理のために、セマンティックに構造化されたタイプアウェアプレースホルダーに置き換えられる。 MemPrivacyは、効果的なメモリ生成と検索に必要な情報を保持しながら、機密データの露出を最小限にする。
  論文  参考訳（メタデータ） (2026-05-10T13:31:58Z)
• Privacy Amplification by Missing Data [4.9024539661445825]
  差分プライバシーの枠組みの中で、欠落したデータをプライバシー増幅機構として分析する。 我々は、不完全なデータが、微分プライベートアルゴリズムのプライバシーの増幅をもたらすことを初めて示している。
  論文  参考訳（メタデータ） (2026-02-02T10:28:41Z)
• Forget What's Sensitive, Remember What Matters: Token-Level Differential Privacy in Memory Sculpting for Continual Learning [26.034865955638864]
  プライバシーを強化した継続的学習フレームワークを提案する。 当社のアプローチではまず,トークンレベルの動的微分プライバシ戦略を導入しています。 次に、プライバシ誘導型メモリ彫刻モジュールを統合する。
  論文  参考訳（メタデータ） (2025-09-16T11:01:59Z)
• Activity Recognition on Avatar-Anonymized Datasets with Masked Differential Privacy [64.32494202656801]
  プライバシを保存するコンピュータビジョンは、機械学習と人工知能において重要な問題である。 本稿では,ビデオデータセット中の感性のある被験者を文脈内の合成アバターに置き換える匿名化パイプラインを提案する。 また、匿名化されていないがプライバシーに敏感な背景情報を保護するため、MaskDPを提案する。
  論文  参考訳（メタデータ） (2024-10-22T15:22:53Z)
• Mind the Privacy Unit! User-Level Differential Privacy for Language Model Fine-Tuning [62.224804688233]
  差分プライバシ(DP)は、モデルが特定のプライバシユニットで「ほとんど区別できない」ことを保証することで、有望なソリューションを提供する。 ユーザ間でのプライバシー保護の確保に必要なアプリケーションによって動機づけられたユーザレベルのDPについて検討する。
  論文  参考訳（メタデータ） (2024-06-20T13:54:32Z)
• PrivacyRestore: Privacy-Preserving Inference in Large Language Models via Privacy Removal and Restoration [20.05248442344211]
  PrivacyRestoreは、推論中のユーザの入力のプライバシを保護するためのプラグイン・アンド・プレイ方式である。 プライバシストアの有効性を評価するために、医療ドメインと法律ドメインをカバーする3つのデータセットを作成します。
  論文  参考訳（メタデータ） (2024-06-03T14:57:39Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)
• Algorithms with More Granular Differential Privacy Guarantees [65.3684804101664]
  我々は、属性ごとのプライバシー保証を定量化できる部分微分プライバシー(DP)について検討する。 本研究では,複数の基本データ分析および学習タスクについて検討し,属性ごとのプライバシパラメータが個人全体のプライバシーパラメータよりも小さい設計アルゴリズムについて検討する。
  論文  参考訳（メタデータ） (2022-09-08T22:43:50Z)
• Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
  エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。 まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。 そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-09-18T20:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。