論文の概要: Mitigating Over-Personalization in LLMs via Structured Memory

• arxiv url: http://arxiv.org/abs/2608.08300v1
• Date: Sat, 08 Aug 2026 19:23:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.762835
• Title: Mitigating Over-Personalization in LLMs via Structured Memory
• Title（参考訳）: 構造化記憶によるLDMの過剰なパーソナライゼーションの軽減
• Abstract要約: メモリ拡張LDMにおける2つの障害モードについて検討した。 モデルやメモリの内容を変更することなく、モデルにどのようにメモリを提示するかを単純な推論時間で変更する。
• 参考スコア（独自算出の注目度）: 8.188066927114779
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conversational assistants increasingly rely on persistent long-term memory to personalize responses across sessions. However, when stored user information is reintroduced into the model context, it can also influence responses in inappropriate or unrelated settings. We study two such failure modes in memory-augmented LLMs: cross-domain leakage, where memories from one life domain affect responses in another, and memory-induced sycophancy, where stored user beliefs make models more likely to agree with the user rather than respond truthfully. We apply a simple inference-time modification to how memories are presented to the model, without changing the model or the memory contents. Across seven models on PersistBench, we compare the commonly used all-in context format, where memories are injected as an unstructured list, with structured formats that partition memories by domain. This simple modification consistently reduces cross-domain leakage while preserving utility, with our strongest method reducing leakage by $8.8\%$ on average relative to the baseline.
• Abstract（参考訳）: 会話アシスタントはセッション間の応答をパーソナライズするために、永続的な長期記憶に依存している。 しかし、保存されたユーザ情報がモデルコンテキストに再導入されると、不適切な設定や無関係な設定でも応答に影響を与える可能性がある。 本研究では、メモリ拡張LDMにおける2つの障害モードについて検討する:クロスドメインリーク、あるライフドメインからのメモリが別のライフドメインの応答に影響を及ぼす場合、および記憶されたユーザ信念により、真に応答するのではなく、モデルがユーザーと同意する可能性が高くなる場合である。 モデルやメモリの内容を変更することなく、モデルにどのようにメモリを提示するかを単純な推論時間で変更する。 PersistBenchの7つのモデルにおいて、メモリを非構造化リストとして注入する、一般的に使用されるオールインコンテキストフォーマットと、メモリをドメイン単位で分割する構造化フォーマットを比較した。 この単純な修正は、実用性を維持しながらドメイン間のリークを一貫して減少させ、我々の最強の方法はベースラインに対して平均8.8\%のリークを減少させる。

関連論文リスト

• MemTrapBench: Benchmarking Cognitive Traps in LLM Memory Use [30.64715962774191]
  既存のメモリベンチマークは、情報が正しく抽出され、保存され、検索されるかどうかを主に評価する。 記憶によって引き起こされる認知的トラップは、忠実に記録され、意味的に関連する記憶でさえ、モデル推論を歪ませることができる。 本稿では,LLMにメモリトラップを回避するためのシンプルな推論時間手法であるAdaptiveMemを提案する。
  論文  参考訳（メタデータ） (2026-08-20T16:00:17Z)
• Beyond Similarity: Trustworthy Memory Search for Personal AI Agents [25.265839311088516]
  個人AIエージェントにおける信頼境界としてのメモリ探索について検討する。 MemGateは、信頼性の高いメモリ検索のための軽量でデプロイ可能なメモリプラグインである。
  論文  参考訳（メタデータ） (2026-06-04T11:54:29Z)
• Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents [51.30250860677378]
  本稿では,連想記憶グラフとアクティブな再構成機構を組み合わせたフレームワークであるMRAgentを提案する。 Cue-Tag-Contentグラフ上で実行することで,メモリアクセスに直接推論を統合する。 LoCoMoベンチマークとLongMemEvalベンチマークの実験は、強いベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2026-06-04T11:29:46Z)
• MemGuard: Preventing Memory Contamination in Long-Term Memory-Augmented Large Language Models [56.31411457917676]
  本稿では,メモリ構築と検索において,機能的メモリ境界を保存するタイプアウェアメモリフレームワークであるMemGuardを紹介する。 幻覚と長期会話のベンチマーク全体で、MemGuardはメモリの信頼性を最大28.27%向上し、メモリトークンは以前の方法より5.8倍少ない。
  論文  参考訳（メタデータ） (2026-05-27T06:04:19Z)
• Personalize-then-Store: Benchmarking and Learning Personalized Memory for Long-horizon Agents [20.22872890297194]
  既存の大規模言語モデル(LLM)ベースのメモリシステムは、基本的な現実を覆い隠す、普遍的で静的なポリシーを適用している。 パーソナライズされたメモリシステムを評価するための最初のベンチマークであるPerMemBenchを紹介する。 本稿では,過渡セッションのメモリ操作を選択的にバイパスする軽量フレームワークであるセッションレベルのストレージゲーティングを提案する。
  論文  参考訳（メタデータ） (2026-05-25T07:48:33Z)
• Causal Intervention-Based Memory Selection for Long-Horizon LLM Agents [0.33842793760651557]
  制御された介入の下で,候補記憶がモデル応答に与える影響を推定する因果記憶選択手法を提案する。 以上の結果から,CMIは,信頼性の高い長期記憶には関連性のみではなく,因果的有用性に基づくコンテキスト選択が必要であることが示唆された。
  論文  参考訳（メタデータ） (2026-05-17T20:21:55Z)
• Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents [56.078070829341534]
  メモリベースの自己進化は、コーディングエージェントにとって有望なパラダイムとして登場した。 ヘテロジニアスドメインからの統一メモリプールを利用して、textbfMemory Transfer Learning (MTL) について検討する。
  論文  参考訳（メタデータ） (2026-04-15T15:50:29Z)
• Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval [59.295767860331004]
  RF-Memは、親しみやすい不確実性誘導デュアルパスメモリレトリバーである。 それは、人間のようなデュアルプロセス認識をレトリバーに埋め込む。 一定の予算とレイテンシの制約の下で、ワンショット検索とフルコンテキスト推論を一貫して上回る。
  論文  参考訳（メタデータ） (2026-03-10T06:31:44Z)
• Pre-Storage Reasoning for Episodic Memory: Shifting Inference Burden to Memory for Personalized Dialogue [13.558061425427688]
  PreMemは、複雑な推論プロセスを推論からメモリ構築に移行する新しいアプローチである。 これは、相互作用中の計算要求を減らしながら、リッチな表現を生成する。 実験では、すべてのモデルサイズで大幅にパフォーマンスが向上した。
  論文  参考訳（メタデータ） (2025-09-13T15:18:08Z)
• ArcMemo: Abstract Reasoning Composition with Lifelong LLM Memory [21.4675019810992]
  概念レベルのメモリは再利用され、ソリューショントレースから抽出されたモジュラー抽象化が自然言語に格納される。 我々は、合成一般化と抽象的推論を強調するベンチマークARC-AGIを評価する。 抽象概念は最も一貫したメモリ設計であり、全てのテストされた推論計算スケールでベースラインを上回ります。
  論文  参考訳（メタデータ） (2025-09-04T17:54:19Z)
• A Model or 603 Exemplars: Towards Memory-Efficient Class-Incremental Learning [56.450090618578]
  CIL(Class-Incremental Learning)は、この要件を満たすために、限られたメモリサイズでモデルをトレーニングすることを目的としている。 モデルサイズを総予算にカウントし,メモリサイズに整合する手法を比較すると,保存モデルは常に機能しないことを示す。 本稿では,メモリ効率のよい拡張可能なMOdelのための MEMO という,シンプルで効果的なベースラインを提案する。
  論文  参考訳（メタデータ） (2022-05-26T08:24:01Z)
• LaMemo: Language Modeling with Look-Ahead Memory [50.6248714811912]
  右側トークンへの漸進的参加により再帰記憶を向上させるLook-Ahead Memory(LaMemo)を提案する。 LaMemoは、メモリ長に比例した追加のオーバーヘッドで、双方向の注意とセグメントの再発を受け入れる。 広く使われている言語モデリングベンチマークの実験は、異なる種類のメモリを備えたベースラインよりも優れていることを示した。
  論文  参考訳（メタデータ） (2022-04-15T06:11:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。