論文の概要: MRMMIA: Membership Inference Attacks on Memory in Chat Agents

• arxiv url: http://arxiv.org/abs/2605.27825v1
• Date: Wed, 27 May 2026 01:31:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:55.672632
• Title: MRMMIA: Membership Inference Attacks on Memory in Chat Agents
• Title（参考訳）: MRMMIA:チャットエージェントにおけるメモリ上のメンバシップ推論攻撃
• Authors: Kai Chen, Yan Pang, Tianhao Wang,
• Abstract要約: メンバーシップ推論攻撃(MIA)は、ターゲットデータレコードがシステムのプライベートデータに属するかどうかをテストする。 本研究では,チャットエージェントメモリMIAに着目し,相手が相手のメモリユニットがチャットエージェントのメモリストアに属しているかどうかを推定する。 マルチリコールメモリMIA(Multi-Recall Memory MIA)を提案する。
• 参考スコア（独自算出の注目度）: 23.801178494200528
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Membership inference attacks (MIAs) test whether a target data record belongs to a system's private data, and have become a standard tool to measure privacy leakage in machine learning systems. Prior work has primarily focused on training corpora or retrieval databases. However, MIAs against agent memory have received less attention, even though such memory can contain sensitive user-agent interactions, retrieved facts, and user preferences. Therefore, in this work, we focus on chat agent memory MIAs, where an adversary infers whether a candidate memory unit belongs to the chat agent's memory store. We propose Multi-Recall Memory MIA (MRMMIA), a unified attack that utilizes multiple recall probes to the agent to extract the membership signal across black-box, gray-box, and white-box settings. Our experiments demonstrate that MRMMIA consistently outperforms baselines. Our results expose the privacy risk in agents and provide an initial evaluation framework for membership leakage in chat-agent memory systems.
• Abstract（参考訳）: メンバーシップ推論攻撃(MIA)は、ターゲットデータレコードがシステムのプライベートデータに属するかどうかをテストし、機械学習システムにおけるプライバシー漏洩を測定する標準ツールとなった。 これまでは主にコーパスや検索データベースのトレーニングに重点を置いてきた。 しかし、エージェントメモリに対するMIAは、機密性の高いユーザエージェントインタラクション、検索された事実、ユーザの好みを含むことができるにもかかわらず、あまり注目されていない。 そこで,本研究では,相手がチャットエージェントのメモリストアに属するかどうかを,相手が推測するチャットエージェントメモリMIAに着目した。 マルチリコールメモリMIA(Multi-Recall Memory MIA)は,エージェントに対する複数のリコールプローブを用いて,ブラックボックス,グレーボックス,ホワイトボックス設定のメンバシップ信号を抽出する統合攻撃である。 MRMMIAがベースラインを一貫して上回ることを示す実験を行った。 本結果は,エージェントのプライバシリスクを明らかにするとともに,チャットエージェントメモリシステムにおけるメンバシップリークに対する初期評価フレームワークを提供する。

関連論文リスト

• MemCog: From Memory-as-Tool to Memory-as-Cognition in Conversational Agents [16.587587215932526]
  本稿では,メモリアクセスを推論プロセスの不可欠な部分とするメモリ・アズ・認知システムを提案する。 MemCogはユーザ知識をNavigable Memory Storeとしてアソシエーションリンクグラフで整理する。 また,プロアクティブメモリトリガ評価のための最初のベンチマークであるProactiveMemBenchを構築した。
  論文  参考訳（メタデータ） (2026-05-27T06:48:33Z)
• MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection [15.403262505444454]
  本稿では,大規模言語モデルエージェントのための時間後因果記憶監査フレームワークを提案する。 MemAuditは、現実的なポストホック監査シナリオ下での攻撃成功率を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-22T15:03:13Z)
• MemGym: a Long-Horizon Memory Environment for LLM Agents [69.79226770543049]
  本稿では,エージェントメモリのベンチマークであるMemGymを紹介する。 MemGymは、メモリパフォーマンスを推論、検索、ツール使用能力から切り離すメモリアイソレーションスコアを報告している。 MEMGYM-CODEQAとMEMGYM-DRの合成パイプラインは、長さ制御可能であり、各ステージでアブレーションを検証可能であり、下流のシナリオと密に整合している。
  論文  参考訳（メタデータ） (2026-05-20T07:25:33Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks [55.145729491377374]
  メモリを持つエージェントの既存の評価は、通常、単独で記憶と行動を評価する。 マルチセッションメモリ-エージェント環境ループにおけるエージェントメモリのベンチマークのための統合評価ジムであるMemoryArenaを紹介する。 MemoryArenaは、Webナビゲーション、優先制約付き計画、プログレッシブ情報検索、シーケンシャルなフォーマルな推論を含む評価をサポートする。
  論文  参考訳（メタデータ） (2026-02-18T09:49:14Z)
• Scene-Aware Memory Discrimination: Deciding Which Personal Knowledge Stays [14.981027641902221]
  大規模インタラクションと多様なメモリ標準に対応するために,Scene-Aware Memory Discrimination法(SAMD)を提案する。 我々は,SAMDが記憶可能なデータの大半をリコールし,動的シナリオにおいて頑健であることを示す。 パーソナライズされたアプリケーションに統合されると、SAMDはメモリ構築の効率と品質の両方を著しく向上させ、個人的知識の組織化に繋がる。
  論文  参考訳（メタデータ） (2026-02-12T05:53:54Z)
• OP-Bench: Benchmarking Over-Personalization for Memory-Augmented Personalized Conversational Agents [55.27061195244624]
  オーバーパーソナライゼーションを3つのタイプに分類する。 エージェントは不要な場合でも、ユーザメモリを取得およびオーバーアタッチする傾向があります。 我々の研究は、メモリ拡張対話システムにおいて、より制御可能で適切なパーソナライズに向けた最初の一歩を踏み出した。
  論文  参考訳（メタデータ） (2026-01-20T08:27:13Z)
• Rethinking Memory in AI: Taxonomy, Operations, Topics, and Future Directions [55.19217798774033]
  メモリは、大規模言語モデル(LLM)ベースのエージェントを支える、AIシステムの基本コンポーネントである。 本稿ではまず,メモリ表現をパラメトリックおよびコンテキスト形式に分類する。 次に、コンソリデーション、更新、インデックス付け、フォッティング、検索、圧縮の6つの基本的なメモリ操作を紹介します。
  論文  参考訳（メタデータ） (2025-05-01T17:31:33Z)
• Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
  我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。 攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。 MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
  論文  参考訳（メタデータ） (2025-03-05T17:53:24Z)
• Unveiling Privacy Risks in LLM Agent Memory [40.26158509307175]
  大規模言語モデル(LLM)エージェントは、様々な現実世界のアプリケーションでますます普及している。 デモのためにメモリモジュールにプライベートユーザエージェントインタラクションを格納することで、意思決定を強化する。 本稿では,メモリからプライベート情報を抽出するメモリ・エクストルーアクション・アタック(MEXTRA)を提案する。
  論文  参考訳（メタデータ） (2025-02-17T19:55:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。