論文の概要: MemLeak: Cross-User Semantic Leakage in Multi-Tenant AI Agent Memory
- arxiv url: http://arxiv.org/abs/2610.04195v1
- Date: Sat, 03 Oct 2026 01:16:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-12 19:28:18.328732
- Title: MemLeak: Cross-User Semantic Leakage in Multi-Tenant AI Agent Memory
- Title（参考訳）: MemLeak:マルチテナントAIエージェントメモリにおけるユーザ間セマンティックリーク
- Abstract要約: エンタープライズマルチテナントデプロイメントにおけるパーソナルAIエージェントは、長期記憶のための共通ベクトルストアを共有する。
ユーザ間のアクセシビリティ障害として形式化し、6つの実験で評価する。
- 参考スコア（独自算出の注目度）: 7.295298507376497
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Personal AI agents in enterprise multi-tenant deployments share a common vector store for long-term memory. Shared embedding spaces create a surface for cross-user memory leakage: a user's query can retrieve semantically adjacent memories belonging to another user through ordinary cosine-similarity retrieval, without any exploit. We formalize this as cross-user admissibility failure and evaluate it across six experiments, plus follow-up ablations, under both sparse (TF-IDF) and production-faithful (MiniLM-L6-v2) retrieval. Non-adversarial, incidental leakage reaches 70--100\% under pooled {same-team} retrieval; adversarially crafted memories achieve 90--100\% top-$k$ placement, exceeding weaker keyword-based attacker baselines, with score lifts of $+0.416$ to $+0.511$ under production-faithful dense retrieval (Config B); and end-to-end response contamination reaches 5.00/5 under a production retrieval path and 4.67/5 with Claude Sonnet~4.5, with contaminated responses often scoring as helpful or more helpful than clean ones, a gap validated against human judgment. Among three architectural mitigations, only hard post-retrieval ownership gating consistently restores the clean baseline (1.00/5) across {two generation models, at a measured latency overhead of roughly 1.4~ms per query.
- Abstract（参考訳）: エンタープライズマルチテナントデプロイメントにおけるパーソナルAIエージェントは、長期記憶のための共通ベクトルストアを共有する。
ユーザのクエリは、通常のcosine-similarity検索を通じて、他のユーザに属するセマンティックに隣接したメモリを、悪用することなく検索することができる。
我々はこれをユーザ間の許容不能として形式化し、6つの実験にまたがって評価し、また、スパース (TF-IDF) と生産忠実 (MiniLM-L6-v2) の検索の両方で改善した。
非敵対的、偶発的リークは、プールされた {same-team} 検索で 70-100\% に達する; 反対に作られたメモリは、90-100\% のトップ-k$ の配置を達成し、より弱いキーワードベースの攻撃ベースラインを超過し、スコアリフトが+0.416$から$+0.511$ (Config B) となる; エンドツーエンドの応答汚染は、生産検索パスで 5.00/5 に達し、クロード・ソネット~4.5 では 4.67/5 が汚染された応答は、クリーンなものよりも有用またはより有用であるとしばしば評価され、人間の判断に反するギャップが証明される。
3つのアーキテクチャ緩和の中で、検索後の厳格なオーナシップゲーティングだけが、2世代モデル間のクリーンベースライン(1.00/5)を、クエリ毎に約1.4～msの遅延オーバーヘッドで一貫して復元する。
関連論文リスト
- MeshHeal: Two-Timescale Self-Healing for Gray Failures in Decentralized LLM Agent Networks [60.95806999869478]
MeshHealは、完全に分散化された自己修復フレームワークである。
能力にマッチしたピアレビューを2つのタイムスケールに分けている。
1タスクあたり51kのトータルモデルトークンを使用して0.839の劣化位相精度を達成し、最強のベースラインでは1タスクあたり115kの0.807の精度を達成した。
論文 参考訳（メタデータ） (2026-09-24T04:29:37Z) - From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix [55.08143827481755]
200以上の内部アプリケーションから1つのモデルにトラフィックを集約します。
我々は、各軸ごとに別々のGRPOエキスパートを訓練し、2段階のSLERPを介してそれらをマージする。
このモデルは、プラットフォームトラフィックの50%、月1億6600万リクエストをサービスコストのごく一部で吸収する。
論文 参考訳（メタデータ） (2026-09-01T17:39:26Z) - When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。
我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。
56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
論文 参考訳（メタデータ） (2026-07-06T15:08:58Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳（メタデータ） (2026-06-23T13:52:46Z) - A Layered Security Framework Against Prompt Injection in RAG-Based Chatbots [1.948261185683419]
推論パイプライン全体を通して直接および間接的なインジェクションをインターセプトする3層フレームワークを提案する。
GPT-4o、Llama 3、Mistral 7Bの5,080サンプルの評価は、このフレームワークが攻撃成功率(ASR)を71.4%から11.3%に下げていることを示している。
論文 参考訳（メタデータ） (2026-06-17T23:59:57Z) - When More Documents Hurt RAG: Mitigating Vector Search Dilution with Domain-Scoped, Model-Agnostic Retrieval [2.8753422388037486]
Retrieval-augmentedジェネレーションは、大規模なドキュメントコレクションにスケールすると劣化する。
Top-k検索は意味的に似ているが、文脈的に正しくないチャンクを返す。
本稿では,MASDR-RAG(Multi-Agent Scoped Domain Retrieval for RAG)を提案する。
論文 参考訳（メタデータ） (2026-06-09T18:26:24Z) - SilentRetrieval: Hijacking Retrieval-Augmented Generation via Semantically-Preserving Adversarial Data Poisoning [1.0998907972211756]
SilentRetrievalは2段階のデータ中毒攻撃で、RAGシステムを敵対的な文書でハイジャックする。
SilentRetrievalは84.6%/81.3% HR@10、57.5%/54.8% ASR-LLM on Natural QuestionsとMS MARCOを達成している。
論文 参考訳（メタデータ） (2026-05-27T07:30:30Z) - MemMachine: A Ground-Truth-Preserving Memory System for Personalized AI Agents [2.541923091180284]
大規模言語モデル(LLM)エージェントはパーソナライゼーション、事実連続性、長期的推論を維持するために永続記憶を必要とする。
本稿では,短期,長期,プロファイルメモリを統合したオープンソースのメモリシステムであるMemMachineを紹介する。
MemMachineは、コンテキスト化された検索を使用して、周囲のコンテキストにマッチする核を拡大し、関連するエビデンスが複数の対話にまたがる場合のリコールを改善する。
論文 参考訳（メタデータ） (2026-04-06T16:57:06Z) - SuperLocalMemory: Privacy-Preserving Multi-Agent Memory with Bayesian Trust Defense Against Memory Poisoning [0.0]
我々は、ASI06メモリ中毒を防御するマルチエージェントAIのためのローカルファーストメモリシステムであるSuperLocalMemoryを紹介する。
SuperLocalMemoryはオープンソース(MIT)で、Model Context Protocolを介して17以上の開発ツールと統合されている。
論文 参考訳（メタデータ） (2026-02-17T12:35:23Z) - CIMemories: A Compositional Benchmark for Contextual Integrity of Persistent Memory in LLMs [62.116710797795314]
大規模言語モデル(LLM)は、パーソナライゼーションとタスクパフォーマンスを向上させるために、過去のインタラクションから永続的なメモリを使用することが多い。
タスクコンテキストに基づいて,LLMがメモリからの情報フローを適切に制御するかどうかを評価するベンチマークであるCIMemoriesを提案する。
論文 参考訳（メタデータ） (2025-11-18T21:51:23Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳（メタデータ） (2025-09-25T14:05:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。