論文の概要: Privacy Leakage from Recurrent State in LLM Inference
- arxiv url: http://arxiv.org/abs/2611.16048v1
- Date: Wed, 11 Nov 2026 21:57:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.278302
- Title: Privacy Leakage from Recurrent State in LLM Inference
- Title(参考訳): LLM推論における繰り返し状態からのプライバシー漏洩
- Abstract要約: LLMはプライベートな事実とアプリケーション命令をプロンプトに置き、後続の推論のためにそのコンテキストの表現を保持する。
プライバシリークを、部分的状態探索とそれを用いた物理的観察を通じて、リカレント状態から調査する。
我々の手法は、回復可能な情報、公開対話による永続性、後の決定に対する因果的影響、そして電力による漏洩を分離する。
- 参考スコア(独自算出の注目度): 14.046133924531027
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Personalized LLM services place private facts and application instructions into a prompt, then retain representations of that context for later inference. Latent-state LLMs compress part of this history into fixed-size recurrent state. The information preserved by its learned updates is implicit, and later computation can expose it even when an observer receives neither the private text nor the responses. We investigate privacy leakage from recurrent state through partial-state probing and physical observation of its use. Our methodology separates recoverable information, persistence through public dialogue, causal influence on later decisions, and leakage through power. Experiments with released hybrid implementations show that a small state observation supports multiple predictions about private facts and response rules, and that personal attributes generalize to unseen authors. The information remains inferable after public dialogue and changes later decision margins. Complete-read power recovers private facts under a fixed execution schedule. On a partitioned GPU, an unprivileged account infers age from whole-device power during public requests; a separate state-isolation experiment establishes the recurrent contribution to this channel. These findings extend context confidentiality to the lifetime and execution of retained state. They identify access-control responsibilities for serving systems, telemetry restrictions for GPU operators, and data-dependent power leakage for accelerator designers.
- Abstract(参考訳): パーソナライズされたLLMサービスは、プライベートな事実とアプリケーション命令をプロンプトに配置し、後続の推論のためにそのコンテキストの表現を保持する。
潜在状態LLMは、この歴史の一部を固定サイズリカレント状態に圧縮する。
学習した更新によって保存された情報は暗黙的であり、後続の計算は、観察者がプライベートテキストもレスポンスも受け取らない場合でも、それを公開することができる。
プライバシリークを、部分的状態探索とそれを用いた物理的観察を通じて、リカレント状態から調査する。
我々の手法は、回復可能な情報、公開対話による永続性、後の決定に対する因果的影響、そして電力による漏洩を分離する。
リリースされたハイブリッド実装による実験では、小さな状態観察がプライベートな事実とレスポンスルールに関する複数の予測をサポートし、個人属性が目に見えない著者に一般化されることが示されている。
公開対話の後、情報は推測不能のままであり、後の意思決定マージンが変化する。
完全可読電力は、固定された実行スケジュールの下でプライベートな事実を回復する。
パーティショニングされたGPUでは、特権のないアカウントがパブリックリクエスト中にデバイス全体の電力から年齢を推定する。
これらの知見は、持続状態の寿命と実行までコンテキストの機密性を拡張する。
彼らは、サービスシステムに対するアクセス制御の責務、GPUオペレータに対するテレメトリの制限、アクセラレーターデザイナに対するデータ依存の電力リークを特定する。
関連論文リスト
- AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents [8.882970037100966]
本稿では,エージェントハーネス境界における認証およびデータ保護ゲートであるAGATEについて述べる。
本評価では,153個のアタックチェーンレコードと,デプロイ,ユーティリティ,再構築実験を組み合わせた評価を行った。
11の良質なファイル処理シナリオのうち6つは否定的なイベントを含んでおり、コンテンツベースのプロビデンスポリシーの実用コストを明らかにしている。
論文 参考訳(メタデータ) (2026-09-25T05:18:02Z) - StateComp: Learning When to Compress History in Long Horizon Agents [55.84813053778976]
本研究では,現在エージェントの状態に応じて過去のインタラクションを安全に圧縮できるフレームワークであるState Conditioned Compression(StateComp)を提案する。
WorkBenchBuddyの実験では、StateCompはタスク性能を維持しながら総エージェントと要約トークンを52.27%削減し、表現抽出において12.67倍の高速化を実現している。
論文 参考訳(メタデータ) (2026-09-23T03:34:08Z) - The Illusion of Local Privacy: Confidentiality Boundary Failures in Consumer LLM Serving Systems [0.620916207290288]
ローカルで大規模言語モデルを実行することは、ユーザがデバイスに留まっているため、クラウドでホストされる推論よりもプライベートであると考えられていることが多い。
推論をローカルに保つことは、そのプロンプトを秘密にしておくのに十分かどうかを問う。
消費者のローカルLLMサービスシステムにおいて,迅速な秘密保持が失敗する4つの境界について検討する。
論文 参考訳(メタデータ) (2026-09-16T11:53:39Z) - Machine Unlearning as Private Retroactive Algorithms [53.24897282360584]
本稿では,レトロアクティビティ要求を連続観察下での差分プライバシーと組み合わせて,レトロアクティブアルゴリズムの定義を提案する。
本稿では, 線形統計, クラスタリング, ヒストグラムに対して, 不合理な結果とともに, プライバシのみを犠牲にして, プライバシとレトロアクティビティを両立させる構造を提案する。
論文 参考訳(メタデータ) (2026-09-04T16:32:11Z) - Differentially Private Runtime Monitoring [5.156484100374059]
本稿では,ストリームベースの監視仕様に差分プライバシーを自動的に適用するアプローチを提案する。
公共交通機関の利用状況のモニタリングを事例として,本手法の有効性と効果を実証する。
論文 参考訳(メタデータ) (2026-05-04T09:33:56Z) - MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。
まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。
次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
論文 参考訳(メタデータ) (2025-06-25T18:04:25Z) - OpenPI-C: A Better Benchmark and Stronger Baseline for Open-Vocabulary
State Tracking [55.62705574507595]
OpenPIは、オープン語彙状態トラッキング用に注釈付けされた唯一のデータセットである。
手順レベル,ステップレベル,状態変化レベルの3つの問題を分類する。
評価指標として,クラスタベースの計量法を提案する。
論文 参考訳(メタデータ) (2023-06-01T16:48:20Z) - How Much Privacy Does Federated Learning with Secure Aggregation
Guarantee? [22.7443077369789]
フェデレートラーニング(FL)は、複数のユーザに保存されたデータに対して、プライバシ保護機械学習を可能にすることへの関心が高まっている。
データはユーザのデバイスを離れることはないが、トレーニングデータに対する重要な計算がトレーニングされたローカルモデル形式で共有されるため、プライバシは保証されない。
セキュアアグリゲーション(SA)は、FLのプライバシーを守るためのフレームワークとして開発されている。
論文 参考訳(メタデータ) (2022-08-03T18:44:17Z) - A New Bandit Setting Balancing Information from State Evolution and
Corrupted Context [52.67844649650687]
本稿では,2つの確立されたオンライン学習問題と包括的フィードバックを組み合わせた,逐次的意思決定方式を提案する。
任意の瞬間にプレーする最適なアクションは、エージェントによって直接観察できない基礎となる変化状態に付随する。
本稿では,レフェリーを用いて,コンテキストブレイジットとマルチアームブレイジットのポリシーを動的に組み合わせるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-11-16T14:35:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。