論文の概要: The Memory Trust Gap: Capability-Dependent Failures in Persistent-Memory Agents

• arxiv url: http://arxiv.org/abs/2609.01852v1
• Date: Tue, 01 Sep 2026 20:35:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:17.984246
• Title: The Memory Trust Gap: Capability-Dependent Failures in Persistent-Memory Agents
• Title（参考訳）: メモリ信頼ギャップ:永続的メモリエージェントの能力依存的障害
• Abstract要約: 永続メモリはパーソナライズされたエージェントをサポートするが、古い保存された事実は警告なしで現在の信頼できる証拠をオーバーライドすることができる。 モデル能力が変化するにつれて、この害がいつ始まるかを研究する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Persistent memory supports personalized agents, but a stale stored fact can override current authoritative evidence without warning. We study when this harm begins as model capability changes. We evaluate a frozen, closed-set, action-scored benchmark with 2 suites that represent 2 different meanings of "no memory" (a Benefit suite, unsolvable without the stored fact, and a Safety suite, in which an authoritative tool always holds the correct value), on a same-family model-size series (Qwen3 0.6/1.7/4/8B). The Memory Trust Gap reflects over-trust rather than confusion. In the Benefit suite, models answer with the stale value 0.92-1.00 of the time at every scale. In the Safety suite, harm below the no-memory baseline under the trap conditions ($Δ_{\mathrm{mem}}$) is capability-gated, with the larger models collapsing most once a stale note is made to look current. In a $2\times2\times2\times2$ factorial, which feature triggers over-trust depends on both the feature and model scale. Removing a label amplifies over-trust at every size, and a recency feature (stale dated newer) fools the larger models harder. Source authority is weak and scale-flat, and position changes from positive to negative across the Qwen3 model-size series. We confirm these scale interactions with direct cross-size contrast tests rather than overlapping per-model intervals. Mitigation is likewise capability-dependent: exposing metadata improves accuracy for the capable models, but only pre-resolving the conflict restores accuracy for the 2 smaller checkpoints. The same pattern appears on the capable models in an independent Llama-Instruct model-size series and on 2 external datasets (RGB, MisBench). A framing control finds no consistent advantage for the memory label: at the 3 smaller scales, models trust a stale document more than a stale memory; at 8B, the difference is not significant.
• Abstract（参考訳）: 永続メモリはパーソナライズされたエージェントをサポートするが、古い保存された事実は警告なしで現在の信頼できる証拠をオーバーライドすることができる。 モデル能力が変化するにつれて、この害がいつ始まるかを研究する。 我々は,同族モデルサイズシリーズ(Qwen3 0.6/1.7/4/8B)において,2つの異なる「メモリなし」の意味を表す2組のフリーズ,クローズドセット,アクションスコア付きベンチマークを評価した。 メモリトラストギャップは、混乱よりも過度な信頼を反映します。 ベネフィットのスイートでは、モデルは各スケールにおける古い値 0.92-1.00 に答える。 セーフティスイートでは、トラップ条件(Δ_{\mathrm{mem}}$)の非メモリベースライン以下で障害が発生する。 $2\times2\times2\times2\times2\times2$ factorialでは、機能のオーバートラストをトリガーする機能は、機能とモデルスケールの両方に依存します。 ラベルの削除はあらゆるサイズでオーバートラストを増幅し、リレーレンシー機能(古いものより新しいもの)はより大きなモデルを騙すのを難しくする。 ソースの権威は弱くスケールフラットであり、Qwen3モデルサイズ級数全体の位置は正から負に変化する。 モデル間間隔の重なりではなく、直接クロスサイズコントラストテストによるこれらのスケールの相互作用を確認する。 メタデータを公開することで、有能なモデルの精度が向上するが、競合を事前に解決するだけで、2つの小さなチェックポイントの精度が回復する。 同じパターンは、独立したLlama-Instructモデルサイズシリーズの有能モデルと、2つの外部データセット(RGB、MisBench)に現れる。 フレーミング制御はメモリラベルに対して一貫した利点を見出さない:3つの小さなスケールでは、モデルは古いメモリよりも古いドキュメントを信頼する;8Bでは、違いは重要ではない。

関連論文リスト

• Calibration is the Bottleneck: An Action-Class Diagnostic of Multi-Turn Tool-Calling [65.03665015319457]
  本稿では,マルチターン障害を2つのモードに分解するアクションクラス指向診断フレームワークを提案する。 複数のマルチターンベンチマークにまたがるツールコールモデルのパネル上で検証を行う。
  論文  参考訳（メタデータ） (2026-09-01T09:08:15Z)
• When Memory Lies: An Empirical Study of Spatial Memory Staleness in VLM Agents [1.095093532533584]
  記憶を増強したVLMエージェントは、永続的な空間的知識に作用するが、その知識は環境の変化とともに静かに機能する。 エージェントが信頼性のあるメモリクレームを矛盾した観察で調整しなければならない場合や、現在のモデルが安全関連ミスになる前に競合をキャッチできるかどうかを問う。
  論文  参考訳（メタデータ） (2026-08-05T08:04:26Z)
• TARL: Transaction-Aware Reliable Ledgers for Executable Memory Management in Long-Term Agents [20.123133746969398]
  メモリ状態更新フレームワークであるTARLを導入し、各ステートメントを5つの実行可能なアクションのうちの1つにマップする。 TARLは、影響を受けるメモリを特定し、その時間的スコープを解決し、ソースの信頼性を比較し、受け入れ、保留、拒否された台帳を更新する。 また、粒度の細かいアクションラベルと次の状態目標を持つベンチマークであるTARL-Memについても紹介する。
  論文  参考訳（メタデータ） (2026-08-04T14:02:55Z)
• Eviction as Estimation: A Fixed-Lag Smoothing View of Test-Time Memory, and When Measuring Beats Accumulating [0.0]
  有界なワーキングメモリを持つ言語モデルは、保持すべき格納アイテムを繰り返し決定する必要がある。 我々は、H2Oの厳密な一般化であるトレーニングフリーポリシー、RMMとして、これをインスタンス化する。 しかし、NVIDIAのKVPressハーネス内で、独自のSnapKV、H2O、StreamingLLM実装に対して実行される独立したベンチマークでは、そのアドバンテージはほとんど失われている。
  論文  参考訳（メタデータ） (2026-07-27T17:08:27Z)
• Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory [65.39827296429527]
  条件付きメモリのスケーリングは、言語モデルのキャパシティを向上する有望な方法である。 Engramのような既存の方法は、事前トレーニング中にスクラッチから大きなメモリテーブルを学習する。 本研究では, グラフトモデルから凍結した隠蔽状態を条件n-gramメモリとして利用する条件記憶スケーリング手法であるメモリグラフトを提案する。
  論文  参考訳（メタデータ） (2026-05-20T09:35:04Z)
• MemReranker: Reasoning-Aware Reranking for Agent Memory Retrieval [37.54115468116941]
  本報告では,Qwen3-Reranker を用いた多段 LLM 知識蒸留によるリグレードモデルファミリ MemReranker (0.6B/4B) について紹介する。 メモリ検索ベンチマークでは、MemReranker-0.6BはBGE-Rerankerを大きく上回り、オープンソースの4B/8BモデルとGPT-4o-miniをキーメトリクスでマッチングする。 MemReranker-4B はさらに 0.737 MAP を達成し、Gemini-3-Flash と同等のメトリクスを持つ一方で、推論遅延を10-20%の大型モデルで維持している。
  論文  参考訳（メタデータ） (2026-05-07T12:33:57Z)
• MemEvoBench: Benchmarking Memory MisEvolution in LLM Agents [78.95081012334116]
  永続メモリを持つ大規模言語モデル(LLM)は、相互作用の継続性とパーソナライゼーションを高めるが、新たな安全性リスクをもたらす。 汚染または偏りのある記憶蓄積は、異常な作用を引き起こす可能性がある。 MemeEvoBenchは、LLMエージェントのメモリ安全性を評価する最初のベンチマークである。
  論文  参考訳（メタデータ） (2026-04-17T07:29:52Z)
• Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
  我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。 ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。 本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
  論文  参考訳（メタデータ） (2026-03-22T21:50:28Z)
• Amulet: Fast TEE-Shielded Inference for On-Device Model Protection [15.936694312917512]
  オンデバイス機械学習(ML)では、モデルのプライバシに関する新たなセキュリティ上の懸念が導入されている。 ユーザデバイス上で価値あるトレーニングされたMLモデルをストアすることは、敵による潜在的な抽出に公開する。 MLモデル保護のための高速TEEシールドオンデバイス推論フレームワークであるAmuletを提案する。
  論文  参考訳（メタデータ） (2025-12-08T12:22:51Z)
• RoMa v2: Harder Better Faster Denser Feature Matching [56.71494120301684]
  Dense Feature Matchは、3Dシーンの2つの画像間のすべての対応を推定することを目的としている。 既存の密集型マーカは、多くのハード・リアル・ワールド・シナリオで失敗したり、性能が悪くなったりします。 本稿では,これらの弱点を,一連の系統的な改善を通じて広範囲にわたって攻撃する。
  論文  参考訳（メタデータ） (2025-11-19T18:59:38Z)
• MICE for CATs: Model-Internal Confidence Estimation for Calibrating Agents with Tools [54.63478102768333]
  十分に校正されたモデル信頼度は、潜在的な行動の報酬に対するリスクを測るために使用することができる。 本稿では,ツール呼び出し時の信頼度を評価するために,モデル内信頼度推定器(MICE)の新たなクラスを提案する。
  論文  参考訳（メタデータ） (2025-04-28T18:06:38Z)
• Causal Estimation of Memorisation Profiles [58.20086589761273]
  言語モデルにおける記憶の理解は、実践的および社会的意味を持つ。 覚書化(英: Memorisation)とは、モデルがそのインスタンスを予測できる能力に対して、あるインスタンスでトレーニングを行うことによる因果的影響である。 本稿では,計量学の差分差分設計に基づく,新しい,原理的,効率的な記憶推定法を提案する。
  論文  参考訳（メタデータ） (2024-06-06T17:59:09Z)
• A Model or 603 Exemplars: Towards Memory-Efficient Class-Incremental Learning [56.450090618578]
  CIL(Class-Incremental Learning)は、この要件を満たすために、限られたメモリサイズでモデルをトレーニングすることを目的としている。 モデルサイズを総予算にカウントし,メモリサイズに整合する手法を比較すると,保存モデルは常に機能しないことを示す。 本稿では,メモリ効率のよい拡張可能なMOdelのための MEMO という,シンプルで効果的なベースラインを提案する。
  論文  参考訳（メタデータ） (2022-05-26T08:24:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。