論文の概要: Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy

• arxiv url: http://arxiv.org/abs/2610.05162v1
• Date: Sun, 04 Oct 2026 12:12:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 22:56:29.082627
• Title: Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy
• Title（参考訳）: Memadapter:記憶障害に対する非現実的適応
• Abstract要約: 既存の緩和法では、記憶誘発性梅毒はバイアスまたは誤った記憶に由来すると仮定している。 本稿では,検索した記憶を適応的に統合し,客観的かつ信頼性の高い推論を支援する新しいフレームワークであるMemAdapterを提案する。
• 参考スコア（独自算出の注目度）: 30.348698144294456
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-term memory enables LLM-based agents to retain and reuse information across tasks and sessions, supporting personalization and long-horizon interactions. However, persistent memories can also induce sycophancy, causing agents to over-align with users' historical beliefs even when they are inaccurate, outdated, or inconsistent with objective evidence. Existing mitigation methods assume that memory-induced sycophancy originates from biased or incorrect memories and attempt to reduce this risk by filtering such memories at different stages of the memory pipeline. However, in the real world, objective and correct memories can still induce sycophancy, and the same memory can warrant different influence across different contexts. To this end, we propose MemAdapter, a novel framework that adaptively integrates retrieved memories to support objective and reliable reasoning. Specifically, MemAdapter consists of three components: (i) Counterfactual Induction, which leverages counterfactual reasoning to uncover the potential risk of retrieved memories; (ii) Context-Aware Reflection, which calibrates the inferential influence of each retrieved memory in light of the current task via self-reflection; and (iii) Evidence-Based Reasoning, which grounds the final response in appropriate evidence while preserving the legitimate influence of memory. Extensive experiments on three benchmarks demonstrate that MemAdapter consistently improves memory reliability across diverse scenarios. Our code is available at https://github.com/DEEP-JLU/MemAdapter.
• Abstract（参考訳）: 長期記憶により、LLMベースのエージェントは、タスクやセッション間で情報を保持、再利用することができ、パーソナライズと長期の相互作用をサポートする。 しかし、持続的な記憶は、不正確、時代遅れ、客観的な証拠と矛盾している場合でも、エージェントがユーザーの歴史的信念に過度に適合することを引き起こす。 既存の緩和法では、メモリ誘起の梅毒はバイアスまたは不正な記憶に由来すると仮定し、メモリパイプラインの異なる段階でこれらの記憶をフィルタリングすることでそのリスクを減らそうとしている。 しかし、現実の世界では、客観的記憶と正しい記憶はいまだに梅毒を誘発しうるし、同じ記憶は異なる文脈にまたがる異なる影響を保証できる。 この目的のために,検索した記憶を適応的に統合し,客観的かつ信頼性の高い推論を支援する新しいフレームワークであるMemAdapterを提案する。 具体的には、MemAdapterは3つのコンポーネントから構成される。 一 検索した記憶の潜在的なリスクを明らかにするために反実的推論を利用する反実的誘導 二 自己反映により現在の業務に照らして検索した各記憶の推論的影響を校正する文脈対応反射 三 証拠に基づく推論であって、記憶の正統な影響を保ちつつ、その最終応答を適切な証拠に根拠とするもの 3つのベンチマークに関する大規模な実験は、MemAdapterがさまざまなシナリオにわたるメモリ信頼性を一貫して改善していることを示している。 私たちのコードはhttps://github.com/DEEP-JLU/MemAdapter.comで利用可能です。

関連論文リスト

• MemTrapBench: Benchmarking Cognitive Traps in LLM Memory Use [30.64715962774191]
  既存のメモリベンチマークは、情報が正しく抽出され、保存され、検索されるかどうかを主に評価する。 記憶によって引き起こされる認知的トラップは、忠実に記録され、意味的に関連する記憶でさえ、モデル推論を歪ませることができる。 本稿では,LLMにメモリトラップを回避するためのシンプルな推論時間手法であるAdaptiveMemを提案する。
  論文  参考訳（メタデータ） (2026-08-20T16:00:17Z)
• MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
  ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。 MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。 長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
  論文  参考訳（メタデータ） (2026-07-14T15:33:44Z)
• MemSyco-Bench: Benchmarking Sycophancy in Agent Memory [32.49512092540906]
  MemSyco-Benchは、エージェントシステムにおけるメモリ誘起性を評価するためのベンチマークである。 MemSyco-Benchは、いつメモリが決定に影響を及ぼすか、どのように有効なメモリを使用するかを測定する。
  論文  参考訳（メタデータ） (2026-07-01T15:30:33Z)
• RaMem: Contextual Reinstatement for Long-term Agentic Memory [21.228780482661076]
  本稿では,検索したメモリフラグメントを文脈的エビデンスに変換するフレームワークであるAgenic Memory (RaMem) について述べる。 ラメムは4つの調整された段階を経る: (i) それぞれの記憶を元のエピソード条件、特にイベント時間、参照時間、セッションスパンおよび参加者に固定する証拠 (ii) 記憶条件誘導は、クエリによって入力されたエビデンス条件を導出する; (iii) 妥当性認識検索は、これらの条件を使用して、コンテンツ関連候補をフォールバック証拠として保持しながら、コンテキスト互換な記憶を優先順位付けする; (iv) コンテキスト保存合成は、選択された記憶の構造化されたコンテキストをジェネレータに保持する。
  論文  参考訳（メタデータ） (2026-06-22T04:41:14Z)
• WorldMemArena: Evaluating Multimodal Agent Memory Through Action-World Interaction [72.1620416874118]
  マルチモーダルな言語モデルは、長距離エージェントとしてますます多くデプロイされている。 既存のベンチマークは、静的対話上のリコールを測定し、メモリを1つのタスクの精度に分解し、キャプションに対する視覚的な観察を減らす。 マルチモーダルエージェントメモリを,観測可能な4段階ライフサイクルを持つアクションワールドインタラクションループとして定式化する。
  論文  参考訳（メタデータ） (2026-05-28T04:27:20Z)
• MemGuard: Preventing Memory Contamination in Long-Term Memory-Augmented Large Language Models [56.31411457917676]
  本稿では,メモリ構築と検索において,機能的メモリ境界を保存するタイプアウェアメモリフレームワークであるMemGuardを紹介する。 幻覚と長期会話のベンチマーク全体で、MemGuardはメモリの信頼性を最大28.27%向上し、メモリトークンは以前の方法より5.8倍少ない。
  論文  参考訳（メタデータ） (2026-05-27T06:04:19Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval [59.295767860331004]
  RF-Memは、親しみやすい不確実性誘導デュアルパスメモリレトリバーである。 それは、人間のようなデュアルプロセス認識をレトリバーに埋め込む。 一定の予算とレイテンシの制約の下で、ワンショット検索とフルコンテキスト推論を一貫して上回る。
  論文  参考訳（メタデータ） (2026-03-10T06:31:44Z)
• MetaMem: Evolving Meta-Memory for Knowledge Utilization through Self-Reflective Symbolic Optimization [57.17751568928966]
  自己進化型メタメモリでメモリシステムを拡張するフレームワークであるMetaMemを提案する。 メタメモリ最適化の間、MetaMemは異なるタスク間で伝達可能な知識利用経験を反復的に蒸留する。 大規模な実験ではMetaMemの有効性が示され、これは強いベースラインを3.6%以上上回っている。
  論文  参考訳（メタデータ） (2026-01-27T04:46:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。