論文の概要: DP-MemView: A Memory Interface for Attribute-Level Transcript Privacy in Long-Term LLM Agents
- arxiv url: http://arxiv.org/abs/2608.03130v1
- Date: Tue, 04 Aug 2026 05:00:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.039229
- Title: DP-MemView: A Memory Interface for Attribute-Level Transcript Privacy in Long-Term LLM Agents
- Title（参考訳）: DP-MemView:長期LLMエージェントにおける属性レベルトランスクリプトプライバシのためのメモリインターフェース
- Abstract要約: DP-MemViewは、パブリックレスポンスコンディショニングビューを選択し、それらのビューを応答 LLM に公開する、微分プライベートインターフェースである。
明示的なインターフェース契約の下では、適応的文字起こし全体に対して純粋なB_a-DPを証明します。
制御された隣接店舗ベンチマークと公開コーパス転送トラックにおいて,3つの応答 LLM を用いたオンラインおよび事前配置モードの評価を行った。
- 参考スコア（独自算出の注目度）: 11.54793572552358
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long-term memory enables persistent personalization in LLM agents, but repeated memory-conditioned responses can cumulatively reveal protected attributes even when they are never stated explicitly. We formalize this threat as adaptive transcript privacy and introduce DP-MemView, a differentially private interface that privately selects public response-conditioning views and exposes those views---rather than raw memory---to the response LLM. Each private selection is charged to every protected attribute whose memory group intersects the read set. Per-attribute ledgers block any selection that would exceed its cap and return a fixed generic view instead. Under an explicit interface contract, we prove pure B_a-DP for the entire adaptive transcript. We also extend the result to stores that differ across multiple protected groups and bound how much observing the transcript can change an adversary's prior odds. We evaluate the online and preallocated modes with three response LLMs on a controlled adjacent-store benchmark and a public-corpus transfer track. Both modes keep transcript distinguishability near chance while preserving target-required personalization and overall response quality. Further diagnostics show that removing key safeguards causes mismatched output support, missing ledger charges, revealing side channels, or growing long-horizon leakage.
- Abstract（参考訳）: 長期記憶はLLMエージェントのパーソナライズを可能にするが、メモリ条件の繰り返し応答は明示的に記述されていない場合でも保護属性を累積的に明らかにすることができる。
我々は、この脅威を適応的なトランスクリプトのプライバシとして形式化し、DP-MemViewを導入した。DP-MemViewは、パブリックなレスポンスコンディショニングビューをプライベートに選択し、それらのビューを、生のメモリではなく、レスポンスLLMに公開する。
各プライベートセレクションは、メモリグループが読み取りセットと交差する保護属性に課金される。
属性ごとの台帳は、上限を超える任意の選択をブロックし、代わりに固定されたジェネリックビューを返す。
明示的なインターフェース契約の下では、適応的文字起こし全体に対して純粋なB_a-DPを証明します。
また、複数の保護されたグループにまたがって異なるストアに結果を拡張し、その書き起こしを観測することで、相手の事前の確率がどれだけ変化するかを制限します。
制御された隣接店舗ベンチマークと公開コーパス転送トラックにおいて,3つの応答 LLM を用いたオンラインおよび事前配置モードの評価を行った。
どちらのモードも、ターゲットが要求するパーソナライゼーションと全体的な応答品質を維持しながら、文字の識別性をほぼ維持する。
さらなる診断では、キーセーフガードの除去は、出力サポートのミスマッチ、台帳の料金の欠如、サイドチャネルの露呈、ロングホライゾンの漏れの増加を引き起こす。
関連論文リスト
- Inferring Hidden User Models from the Behavior of Personalized LLM Agents [17.544201595300024]
ユーザモデルは、攻撃者が生成したパーソナライズされた選択からプライベート情報を回復できるため、新たな攻撃面を公開することを主張する。
我々は、仮説誘導適応探索に基づくブラックボックス攻撃であるUMPeekを導入し、そのような隠れユーザモデルを推測する。
全体として、UMPeekはベンチマークと実世界の比較において、既存の攻撃を上回っている。
論文 参考訳（メタデータ） (2026-09-03T13:19:15Z) - Defending Wearable VLMs Against Private Attribute Inference [21.179736294173168]
ウェアラブルなVLMパイプラインは、エゴセントリックなビジュアルキャプチャによる連続的なマルチモーダルアシストを約束する。
有用な援助に必要なエゴセントリックな証拠は、着用者や近くの傍観者に関する個人的な属性を明らかにすることもできる。
我々は,信頼境界を離れる前に,視覚的トークンの残差変換を学習するLLM前ディスアンタングルであるToken-Guided Attribute Privacy (TGAP)を提案する。
論文 参考訳（メタデータ） (2026-08-26T21:36:45Z) - AlpsBench: An LLM Personalization Benchmark for Real-Dialogue Memorization and Preference Alignment [54.72137309071243]
AlpsBenchはWildChatからキュレートされた2500の長期的相互作用配列から構成され、人間によって検証された構造化記憶と組み合わせられる。
我々は、パーソナライズされた情報抽出、更新、検索、利用の4つの重要なタスクを定義し、メモリ管理のライフサイクル全体を評価するためのプロトコルを確立する。
i)モデルが潜在ユーザ特性を確実に抽出するのに苦労していること、(ii)メモリ更新が最強モデルでもパフォーマンス天井に直面すること、(iii)大きなイントラクタプールの存在下での検索精度が急激に低下すること、(iv)明示的なメモリ機構がリコールを改善する一方で、リコールは行わないこと、などである。
論文 参考訳（メタデータ） (2026-03-09T11:06:19Z) - Differentially Private Retrieval-Augmented Generation [13.622078883013442]
Retrieval-augmented Generation (RAG) は、大規模言語モデル(LLM)における幻覚を減らすために広く使われているフレームワークである。
RAGは、データベースが医療記録や法的文書などの機密性のあるコーパスを含んでいる場合、深刻なプライバシー上のリスクを引き起こす。
本稿では,提案-テスト-リリースパラダイムを用いてDPを統合した新しいプライバシー保護型RAGアルゴリズムであるDP-KSAを提案する。
論文 参考訳（メタデータ） (2026-02-16T00:52:57Z) - Stop Tracking Me! Proactive Defense Against Attribute Inference Attack in LLMs [61.15237978606501]
大規模言語モデルは、ユーザ生成テキストからプライベートなユーザー属性を推測することができる。
既存の匿名化ベースの防御は粗く、プライバシーを優先する要素を匿名化する際に単語レベルの精度が欠如している。
細粒度匿名化(TRACE)と推論防止最適化(RPS)を組み合わせた統合防衛フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-12T03:37:50Z) - When Privacy Meets Recovery: The Overlooked Half of Surrogate-Driven Privacy Preservation for MLLM Editing [61.80513991207956]
この研究は、さまざまなMLLMシナリオでサロゲート駆動の保護されたデータを復元する方法の課題に焦点を当てている。
私たちはまず、SPPE(Surrogate Privacy Protected Editable)データセットの提供によって、この研究ギャップを埋めます。
MLLM生成編集の忠実さを保ちながら、プライベートコンテンツを確実に再構築する統一的な手法を提案する。
論文 参考訳（メタデータ） (2025-12-08T04:59:03Z) - DP-Fusion: Token-Level Differentially Private Inference for Large Language Models [51.71591819896191]
大規模言語モデル(LLM)は、推論時にプライバシを保存しない。
DP-Fusion は LLM の出力にコンテキスト内のトークンの集合が持つ影響を証明的に束縛する。
提案手法は, 理論的および実証的プライバシを大幅に改善した, 証明可能な民営化文書を作成する。
論文 参考訳（メタデータ） (2025-07-06T20:49:39Z) - Machine Learning with Privacy for Protected Attributes [56.44253915927481]
差分プライバシー(DP)の定義を洗練し、機能差分プライバシー(FDP)と呼ばれるより汎用的で柔軟なフレームワークを作成する。
私たちの定義はシミュレーションに基づいており、プライバシの追加/削除と置き換えの両方が可能で、保護された機能と非保護された機能の任意の分離を処理できます。
各種機械学習タスクにフレームワークを適用し,パブリック機能が利用可能であればDP学習モデルの実用性を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2025-06-24T17:53:28Z) - Differential Privacy in Continual Learning: Which Labels to Update? [14.721537886922864]
継続的な学習は、センシティブなトレーニングデータに必要な厳密なプライバシーと矛盾する。
モデルが出力できるラベルセットを通じて、プライバシの漏洩を説明できないことは、他の有効なDPアルゴリズムのプライバシーを損なう可能性があることを強調する。
論文 参考訳（メタデータ） (2024-11-07T13:08:06Z) - Mind the Privacy Unit! User-Level Differential Privacy for Language Model Fine-Tuning [62.224804688233]
差分プライバシ(DP)は、モデルが特定のプライバシユニットで「ほとんど区別できない」ことを保証することで、有望なソリューションを提供する。
ユーザ間でのプライバシー保護の確保に必要なアプリケーションによって動機づけられたユーザレベルのDPについて検討する。
論文 参考訳（メタデータ） (2024-06-20T13:54:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。