論文の概要: The Illusion of Local Privacy: Confidentiality Boundary Failures in Consumer LLM Serving Systems

• arxiv url: http://arxiv.org/abs/2609.18526v1
• Date: Wed, 16 Sep 2026 11:53:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.7873
• Title: The Illusion of Local Privacy: Confidentiality Boundary Failures in Consumer LLM Serving Systems
• Title（参考訳）: ローカルプライバシのイラシオン:消費者LLMサービングシステムにおける信頼性境界障害
• Abstract要約: ローカルで大規模言語モデルを実行することは、ユーザがデバイスに留まっているため、クラウドでホストされる推論よりもプライベートであると考えられていることが多い。 推論をローカルに保つことは、そのプロンプトを秘密にしておくのに十分かどうかを問う。 消費者のローカルLLMサービスシステムにおいて,迅速な秘密保持が失敗する4つの境界について検討する。
• 参考スコア（独自算出の注目度）: 0.620916207290288
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Running large language models (LLMs) locally is often considered more private than cloud-hosted inference because user prompts remain on the device. We ask whether keeping inference local is, by itself, sufficient to keep those prompts confidential. Our results show that it is not: prompt confidentiality also depends on how the surrounding serving software handles prompt data before, during, and after inference. We examine four boundaries at which prompt confidentiality can fail in consumer local-LLM serving systems: model loading, runtime memory, wrapper-level persistence, and the serving interface. To study these boundaries, we develop LLAnalyzer, a measurement framework that tests each boundary separately and traces observed failures to the responsible software component. Applying LLAnalyzer to four open-weight model families and two consumer deployment platforms, we find markedly different behaviour across boundaries. In a 24-hour AFL++ campaign with more than 12 million executions, we observe no parser crashes or successful malformed GGUF loads within the explored state space. Runtime memory tells a different story: we recover prompts after inference because multiple plaintext representations survive in allocator-managed memory, and sanitisation reduces this residue without eliminating it. We also find that consumer wrappers can extend prompt lifetime through plaintext persistence. At the serving boundary, we uncover a previously undocumented authorization flaw in llama.cpp that allows one authenticated client to restore another tenant's saved conversation state; the attack succeeds in 200/200 controlled trials. Separately, shared prompt-prefix caching exposes a remote timing oracle that remains distinguishable under WAN conditions. We argue that local LLM systems need explicit guarantees for prompt lifetime, persistent storage, and tenant isolation.
• Abstract（参考訳）: 大規模言語モデル(LLM)をローカルで実行する場合、ユーザプロンプトがデバイスに残るため、クラウドでホストされる推論よりもプライベートであると考えられることが多い。 推論をローカルに保つことは、そのプロンプトを秘密にしておくのに十分かどうかを問う。 素早い機密性は、周囲のサービスソフトウェアが、前、中、および後推論のプロンプトデータをどのように扱うかにも依存する。 モデルローディング,ランタイムメモリ,ラッパーレベルの永続性,サービスインターフェースという,コンシューマのローカルLLMサービスシステムにおいて,迅速な機密性の障害が発生する4つの境界について検討する。 LLAnalyzerは、各境界を個別にテストし、観測された失敗を責任あるソフトウェアコンポーネントにトレースする測定フレームワークである。 LLAnalyzerを4つのオープンウェイトモデルファミリと2つのコンシューマデプロイメントプラットフォームに適用すると、バウンダリ間での動作は大きく異なります。 1200万回以上実行された24時間のAFL++キャンペーンでは、パーサのクラッシュや、探索された状態空間内での不正なGGUF負荷が成功しない。 複数の平文表現がアロケータ管理メモリで残っているため、推論後にプロンプトを回復し、サニデーションはそれを排除せずにこの残余を減らします。 また、コンシューマラッパーは、平文の永続性によって、すぐに寿命を延ばせることもわかりました。 サービス境界では、ある認証されたクライアントが別のテナントの保存された会話状態を復元できるllama.cppの未文書の認証欠陥を発見し、攻撃は200/200の制御されたトライアルで成功する。 分離して、共有プロンプト-プレフィックスキャッシュは、WAN条件下で区別可能なリモートタイミングオラクルを公開する。 ローカルLLMシステムには、迅速な寿命保証、永続ストレージ、テナントアイソレーションの明示的な保証が必要である、と我々は主張する。

関連論文リスト

• SpliTEE: Improving LLM Inference on Trusted Hardware with Differentially Private GPU Outsourcing [0.8446353882843086]
  大きな言語モデル(LLM)に提供されるユーザプロンプトには、リモートでデプロイされたモデルによって誤用される可能性のある機密情報やプライベート情報が含まれる可能性がある。 ユーザプロンプトを保護する1つの方法は、信頼された実行環境(TEE)内でLLMを実行することである。 我々は,Intel TDX を用いてアーキテクチャを実装し,Llama-3.2-3B と Qwen3-4B の2つの LLM を用いてアーキテクチャを評価する。
  論文  参考訳（メタデータ） (2026-09-14T04:55:17Z)
• MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication [6.029029648872896]
  マルチエージェント大言語モデル(LLM)システムは、内部メッセージ、ツール引数、ログ、永続メモリを通じて保護された状態を公開できる。 本稿では,MNC(Minimum-Necessary Communication)について紹介する。これは,タスクに十分な情報開示を明示的な受信者,目的,転送,ライフタイム,ロギング,メモリスコープにバインドする,型付きセマンティック非分類プロトコルである。 制御されたセマンティックジョイント、メモリ、探索、縦断的な実験により、従来のディフェンスはプロトコルレベルのユーティリティを保持しつつ、相当量の推論信号を公開することができる。
  論文  参考訳（メタデータ） (2026-08-03T05:36:49Z)
• ContinuityBench: A Benchmark and Systems Study of Stateful Failover in Multi-Provider LLM Routing [0.6117371161379209]
  運用用の大規模言語モデル(LLM)デプロイメントでは、高可用性保証は会話の連続性に相当しない。 CPR(Continuity Preservation Rate)とCLO(Continuity Overhead)の2つの新しい指標を紹介します。 この結果は、堅牢で状態保存型マルチモデル推論システムを構築するための原則的な基盤を提供する。
  論文  参考訳（メタデータ） (2026-07-17T12:12:38Z)
• MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
  ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。 MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。 長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
  論文  参考訳（メタデータ） (2026-07-14T15:33:44Z)
• Privacy-Preserving RAG via Multi-Agent Semantic Rewriting: Achieving Confidentiality Without Compromising Contextual Fidelity [36.50013561597688]
  Retrieval-Augmented Generationは、外部知識を取り入れることで、大きな言語モデルを強化する。 機密性のあるシナリオにデプロイすると、悪意のあるプロンプトによるプライバシーの漏洩が危険になる。 本稿では,検索したコンテンツをセマンティック・リライトによってサニタイズするマルチエージェント・フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-23T14:21:41Z)
• GateMem: Benchmarking Memory Governance in Multi-Principal Shared-Memory Agents [61.50171793000712]
  GateMemはマルチプリンシパル共有メモリエージェントのベンチマークである。 医療、事務、教育、家庭の領域にまたがる。 強力なユーティリティ、堅牢なアクセス制御、信頼性のある忘れを同時に実現する方法は存在しない。
  論文  参考訳（メタデータ） (2026-06-17T09:06:15Z)
• Mem-W: Latent Memory-Native GUI Agents [50.87647372904382]
  本稿では,メモリをエージェントの連続的コンテキストの一部として扱う,潜在メモリネイティブなGUIエージェントであるMem-Wを紹介する。 4つのWebおよびモバイルナビゲーションベンチマークで、Mem-Wはさまざまなバックボーンとメモリ拡張ベースラインを一貫して改善している。
  論文  参考訳（メタデータ） (2026-05-10T04:31:23Z)
• AdaMem: Adaptive User-Centric Memory for Long-Horizon Dialogue Agents [49.63422082885992]
  長軸対話エージェントのための適応型ユーザ中心メモリフレームワークであるAdaMemを提案する。 AdaMemは対話履歴をワーキング、エピソディック、ペルソナ、グラフメモリに整理する。 LoCoMo と PERSONAMEM ベンチマーク上での AdaMem の評価を行った。
  論文  参考訳（メタデータ） (2026-03-17T13:22:54Z)
• LLMs Can't Play Hangman: On the Necessity of a Private Working Memory for Language Agents [18.273509519961255]
  プライベートステートインタラクティブタスク(PSIT)を定義します。 PSITは、一貫した公開応答を生成しながら、隠された情報の生成と維持をエージェントに要求する。 公開会話履歴に制限されたエージェントは,PSITにおける秘密性と一貫性を同時に保持できないことが理論的に示されている。 明示的なプライベートなワーキングメモリを組み込んだ新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2026-01-11T16:06:58Z)
• DP-Fusion: Token-Level Differentially Private Inference for Large Language Models [51.71591819896191]
  大規模言語モデル(LLM)は、推論時にプライバシを保存しない。 DP-Fusion は LLM の出力にコンテキスト内のトークンの集合が持つ影響を証明的に束縛する。 提案手法は, 理論的および実証的プライバシを大幅に改善した, 証明可能な民営化文書を作成する。
  論文  参考訳（メタデータ） (2025-07-06T20:49:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。