論文の概要: MemLeak: Diagnosing Information Leaks in Multimodal Agent Memory

• arxiv url: http://arxiv.org/abs/2606.29788v1
• Date: Mon, 29 Jun 2026 05:07:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.056861
• Title: MemLeak: Diagnosing Information Leaks in Multimodal Agent Memory
• Title（参考訳）: MemLeak:マルチモーダルエージェントメモリにおける情報漏洩の診断
• Abstract要約: マルチモーダルAIエージェントが事実を忘れるように要求されると、現在のメモリシステムは通常、テキストエントリを削除し、成功を報告します。 完全に異なる事実にタグ付けされた画像を含む、保持されているユーザイメージから、その事実が回復可能であることが分かりました。 Information Provenance Graph (IPG) は、メモリ表現を削除価格で分類する分類法である。
• 参考スコア（独自算出の注目度）: 12.853875632489114
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a multimodal AI agent is asked to forget a fact, current memory systems usually delete the text entry and report success. We find that the fact can remain recoverable from retained user images, including images tagged to entirely different facts, because VLMs use implicit visual cues at inference time. We introduce the Information Provenance Graph (IPG), a taxonomy that classifies memory representations by deletion affordance. The IPG reveals that deletion fails through multiple channels. Our benchmark, MemLeak, measures this across a deletion cascade: direct probing of deletion-capable systems yields <1%, but retained correlated text enables 18.3% recovery, and retained images enable 12.0% recovery (0.0% blind baseline, 0.3% FPR) -- with 47% of image leaks not text-recoverable. Content-aware semantic deletion reduces the image residual to 2.0%. The residual appears across multiple VLMs, a production memory system, and real Unsplash-licensed photographs. Dual-annotator human validation (kappa = 0.88) confirms judge reliability.
• Abstract（参考訳）: マルチモーダルAIエージェントが事実を忘れるように要求されると、現在のメモリシステムは通常、テキストエントリを削除し、成功を報告します。 VLMは推論時に暗黙的な視覚的手がかりを使用するため、全く異なる事実にタグ付けされた画像を含む、保持されたユーザイメージからその事実が回復可能であることが判明した。 Information Provenance Graph (IPG) は、メモリ表現を削除価格で分類する分類法である。 IPGは、削除が複数のチャネルで失敗することを明らかにした。 私たちのベンチマークであるMemLeakは、削除カスケード全体でこれを計測している: 削除可能なシステムの直接プローブは、1%を出力するが、保持された相関したテキストは18.3%のリカバリを可能にし、保持された画像は12.0%のリカバリ(ブラインドベースライン0.0%、FPR0.3%)を可能にし、画像リークの47%はテキストリカバリ不可能である。 コンテンツ対応のセマンティック削除は、画像の残留率を2.0%に下げる。 残余は、複数のVLM、生産記憶システム、実際のUnsplashライセンスの写真にまたがって現れる。 デュアルアノテータによる人間の検証 (kappa = 0.88) は、裁判官の信頼性を確認する。

関連論文リスト

• Restore What Matters: Lessons from Joint Restoration and Recognition [72.91692240810536]
  認識パイプラインは通常、再認識ワークフローを採用するが、数十年の経験から、視覚的に満足な画像を生成することは、認識を改善するためにめったにないことを示している。 下流のタスクが本当に必要とするものだけを復元し、タスク信号がどこで、どのくらい、そして、修復が必要なのかを判断する。 我々は、より良い外観のイメージは必要でも十分でもないと結論付け、復元モジュールはタスク駆動で、選択的で、物理的に認識されなければならない。
  論文  参考訳（メタデータ） (2026-09-12T08:08:08Z)
• Does Video Memory Use What It Retrieves? A Causal Audit of Memory Specificity [38.098764596232996]
  ビデオモデルは、長いシーケンスで情報を保存するためにメモリをますます利用します。 標準メモリアブレーションは、メモリが役立つかどうかをテストするが、検索したコンテンツが責任を持つかどうかをテストする。 我々はこれを読み取り時のメモリ置換で直接テストする。
  論文  参考訳（メタデータ） (2026-09-10T18:16:32Z)
• Forgetting Without Restarting: Execution-State Unlearning for Stateful LLM Agents [12.985773309621964]
  Provenance-Guided Selective Replayは、プロンプト、圧縮メモリ、キャッシュにまたがるクロスレイヤコントラクトとしてバインドされる。 我々は,3つのエージェントスイート,9つのベースライン,3つのモデルファミリに対して,エレケーション,キャッシュ,文字列フリーな動作テストで監査を行った。
  論文  参考訳（メタデータ） (2026-09-04T08:31:40Z)
• Do You Remember? Toward Memory-Centric Multimodal AI [0.0]
  本稿では,再構成メモリをMLLMに導入した3段階アーキテクチャDoYouRememberを紹介する。 1000個の顔の皮膚テクスチャマップと99,000個のラベルのない顔画像から、LLMの隠蔽状態は、約0個の回復可能な視覚情報を含んでいることがわかった。 記憶は減圧であり、記憶は減圧であり、幻覚は欠陥よりも減圧の本質的な性質である。
  論文  参考訳（メタデータ） (2026-07-07T19:07:27Z)
• Deployment-Time Memorization in Foundation-Model Agents [18.40535884093806]
  個人化リコール(PR)と適応抽出レート(AER)によるプライバシユーティリティフロンティアとしてのエージェントメモリの検討 キーファクト要約は、ほとんどすべてのパーソナライズリコールを維持しながら、Gemma 3 12Bで76%、GPT-4o-miniで64%のカナリア抽出を減少させる。 LongMemEvalでは、キーファクトの要約はGemma 3 12Bで76%、GPT-4o-miniで64%のカナリア抽出を減らし、ほぼすべてのパーソナライズリコールを保存する。
  論文  参考訳（メタデータ） (2026-06-08T18:38:41Z)
• MemMark: State-Evolution Attribution Watermarking for Agent Long-Term Memory Systems [13.133650395551507]
  メモリベースのエージェントは、リークされたスナップショットや移行されたスナップショットを生き残るための証明を必要とする。 MemMarkは、オーナー制御シグナルを潜在メモリ書き込み決定に埋め込む。 MemMarkは、生き残ったトレース、信頼できるメタデータ、ユーティリティ劣化のない長期的なエージェントメモリで実現可能である。
  論文  参考訳（メタデータ） (2026-05-24T11:04:35Z)
• Before Forgetting, Learn to Remember: Revisiting Foundational Learning Failures in LVLM Unlearning Benchmarks [17.78493115982036]
  LVLM(Large Vision-Language Models)は、機密性の高い個人情報を意図せずに記憶することで、プライバシー上のリスクを引き起こす。 信頼性の高いマルチホップおよびマルチイメージ記憶ベンチマークであるReMemを紹介する。 我々はReMemがLVLMの学習行動と未学習行動の両方を診断するための厳格で信頼性の高いフレームワークを提供することを示した。
  論文  参考訳（メタデータ） (2026-05-05T13:42:31Z)
• Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval [59.295767860331004]
  RF-Memは、親しみやすい不確実性誘導デュアルパスメモリレトリバーである。 それは、人間のようなデュアルプロセス認識をレトリバーに埋め込む。 一定の予算とレイテンシの制約の下で、ワンショット検索とフルコンテキスト推論を一貫して上回る。
  論文  参考訳（メタデータ） (2026-03-10T06:31:44Z)
• The Illusion of Forgetting: Attack Unlearned Diffusion via Initial Latent Variable Optimization [51.835894707552946]
  非学習型防衛は拡散モデル(DM)からNot-Safe-For-Work概念を浄化すると主張している 本研究では,未学習が言語記号と基礎知識のマッピングを部分的に破壊し,休眠記憶として残り続けることを示す。 IVOは、壊れたマッピングを再構築することで、これらの休眠記憶を再活性化する簡潔で強力な攻撃フレームワークである。
  論文  参考訳（メタデータ） (2026-01-30T02:39:51Z)
• Agentic Learner with Grow-and-Refine Multimodal Semantic Memory [50.81667005063605]
  ViLoMemは、コンパクトなスキーマベースのメモリを構築するデュアルストリームメモリフレームワークである。 視覚的障害パターンと論理的推論エラーを符号化し、MLLMが成功し失敗した経験から学ぶことを可能にする。
  論文  参考訳（メタデータ） (2025-11-26T18:55:08Z)
• CIMemories: A Compositional Benchmark for Contextual Integrity of Persistent Memory in LLMs [62.116710797795314]
  大規模言語モデル(LLM)は、パーソナライゼーションとタスクパフォーマンスを向上させるために、過去のインタラクションから永続的なメモリを使用することが多い。 タスクコンテキストに基づいて,LLMがメモリからの情報フローを適切に制御するかどうかを評価するベンチマークであるCIMemoriesを提案する。
  論文  参考訳（メタデータ） (2025-11-18T21:51:23Z)
• Finding Dori: Memorization in Text-to-Image Diffusion Models Is Not Local [55.33447817350623]
  近年の緩和努力は、動詞の学習データ複製を誘発する原因となる重みの特定と刈り取りに重点を置いている。 この仮定に疑問を呈し、たとえ刈り取られたとしても、以前軽減されたプロンプトのテキスト埋め込みに対する小さな摂動が、データ複製を再トリガーできることを実証する。 本研究は,テキスト・ツー・イメージDMにおける暗記の性質に関する新たな知見を提供し,DMの暗記に対するより信頼性の高い軽減策の開発を知らせるものである。
  論文  参考訳（メタデータ） (2025-07-22T15:02:38Z)
• Instruct-ReID: A Multi-purpose Person Re-identification Task with Instructions [62.86799046733196]
  本稿では,与えられた画像や言語命令に従って,モデルに画像の検索を要求する命令-ReIDタスクを提案する。 我々の命令-ReIDはより一般的なReID設定であり、既存の6つのReIDタスクを異なる命令を設計することで特別なケースとして見ることができる。 実験結果から,OmniReIDベンチマークで微調整なしでトレーニングした多目的ReIDモデルでは, Market1501, MSMT17, CUHK03, 従来のReIDでは+0.5%, +0.6%, +7.7%mAP, PRCCでは+6.4%, +7.1%, +11.2%mAPの改善が可能であった。
  論文  参考訳（メタデータ） (2023-06-13T03:25:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。