論文の概要: Learning What Not to Forget: Long-Horizon Agent Memory from a Few Kilobytes of Learning

• arxiv url: http://arxiv.org/abs/2606.20954v1
• Date: Thu, 18 Jun 2026 21:39:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 11:38:47.926857
• Title: Learning What Not to Forget: Long-Horizon Agent Memory from a Few Kilobytes of Learning
• Title（参考訳）: 忘れるべきことを学ぶ:数キロバイトの学習から長い水平エージェント記憶
• Authors: Nusrat Jahan Lia, Aritra Mazumder,
• Abstract要約: 本稿では,LRE(Learned Relevance Eviction)について紹介する。 最も単純なタスクでは、非省略ベースラインが27%を超える。 会話メモリでは、LREは神経コストゼロで高密度およびトークン処理エンコーダをオーバーロードする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Long-running language-model systems accumulate interaction history that outgrows the context window, so they must continually evict. When an eviction policy drops a load-bearing detail, for example an access token issued at login or a path the next call needs, the action fails. We present LRE (Learned Relevance Eviction), a few kilobytes, CPU-only, language-model-free scorer that learns which units of history are load-bearing and keeps them by verbatim extraction. Under a matched-budget comparison, in our experiment, no baseline dominates LRE on the accuracy-cost plane. On agents, LRE matches the accuracy of keeping the entire history overall. On the simplest tasks, it exceeds that no-eviction baseline by 27%, while requiring zero compressor calls and reducing peak context size by up to 52%. A controlled study trace shows LRE completes tasks where the others loop, finishing one such task in 37% fewer calls than keeping everything and solving 14 tasks where no other run policy does. On conversational memory, LRE outranks dense and token-pruning encoders at zero neural cost. In downstream evaluation, LRE gives the best budgeted answer quality on LoCoMo reading 68% fewer tokens. Its supervision can also be annotation-free: training only on the system's own behavior recovers 95% of the supervised scorer's effectiveness. We argue that, because memory eviction in LLM agents is a fidelity problem, it requires a deployable proactive policy where the future query is unavailable and exact state is decisive, and that cheap learned relevance can be sufficient.
• Abstract（参考訳）: 長期にわたる言語モデルシステムは、コンテキストウィンドウを超過するインタラクション履歴を蓄積する。 例えばログイン時に発行されたアクセストークンや、次の呼び出しが必要とするパスなどである。 本稿では,LRE(Learned Relevance Eviction),数キロバイト,CPUのみの言語モデルフリースコアラについて述べる。 整合予算比較実験では, 精度・コスト面上では基準線がLREを支配しない。 エージェントでは、LREは履歴全体を維持する精度と一致します。 最も単純なタスクでは、ゼロの圧縮機コールを必要とせず、ピークコンテキストサイズを最大52%削減しながら、非省略ベースラインを27%上回る。 コントロールされた調査トレースは、LREが他のループでタスクを完了し、そのタスクを37%減らし、すべてを維持し、他の実行ポリシーのない14タスクを解決していることを示している。 会話メモリでは、LREは神経コストゼロで高密度およびトークン処理エンコーダをオーバーロードする。 ダウンストリーム評価では、LREはLoCoMo上で最も予算の高い回答品質を提供する。 システム自身の振る舞いのみをトレーニングすることで、監督されたスコアラーの有効性の95%が回復する。 LLMエージェントのメモリ消去は不確実性の問題であるため、将来のクエリが利用不可能で正確な状態が決定的であり、安価な学習関連性が十分であるような、デプロイ可能なプロアクティブポリシーが必要である、と我々は主張する。

関連論文リスト

• TokenMizer: Graph-Structured Session Memory for Long-Horizon LLM Context Management [0.0]
  本稿では,大規模言語モデルのセッションを型付き知識グラフとしてモデル化するオープンソースのプロキシシステムであるTokenMizerを紹介する。 平均78トークン(範囲:42-124) - 評価ベースラインよりも2倍小さい再開ブロックを生成する。 全セッションで、TokenMizerはタスクリコールを51.0%、決定リコールを46.6%、ファイルリコールを58.7%としている。
  論文  参考訳（メタデータ） (2026-06-04T16:12:28Z)
• Grounded Continuation: A Linear-Time Runtime Verifier for LLM Conversations [15.537674351419234]
  デプロイされたエージェントに対するコンテキスト操作攻撃は、このギャップを積極的に活用する。 明示的な依存性グラフを保持するランタイム検証器でそれをクローズします。 継続がサポートされるかどうかを確認することは、グラフウォークに還元され、リトラクションは同じグラフを通して、サポートを失う結論を正確に宣言する。
  論文  参考訳（メタデータ） (2026-05-13T22:54:16Z)
• MemSifter: Offloading LLM Memory Retrieval via Outcome-Driven Proxy Reasoning [78.46301394559903]
  大きな言語モデル(LLM)は、長期化タスクにますます使われています。 現在の手法はコストと精度のトレードオフに直面している。 MemSifterは、メモリ検索プロセスを小さなプロキシモデルにオフロードする新しいフレームワークである。
  論文  参考訳（メタデータ） (2026-03-03T02:57:38Z)
• LongRLVR: Long-Context Reinforcement Learning Requires Verifiable Context Rewards [51.45138356629732]
  我々は,疎解報酬を高密度で検証可能な文脈報酬で増強するためにLongRLVRを導入する。 この補助信号は、正しい接地情報を選択するためのモデルを直接インセンティブ化する。 LongRLVRは、すべてのモデルとベンチマークで標準のRLVRよりも一貫して、大幅に優れています。
  論文  参考訳（メタデータ） (2026-03-02T18:07:53Z)
• AgentFold: Long-Horizon Web Agents with Proactive Context Management [98.54523771369018]
  LLM ベースの Web エージェントは情報検索を大いに約束するが,その有効性はコンテキスト管理における基本的なトレードオフによって妨げられる。 本稿では,プロアクティブなコンテキスト管理を中心としたエージェントパラダイムであるAgentFoldを紹介する。 単純な微調整により,BrowseCompでは36.2%,BrowseComp-ZHでは47.3%を達成した。
  論文  参考訳（メタデータ） (2025-10-28T17:51:50Z)
• Thinkless: LLM Learns When to Think [57.857534644932194]
  推論モデル(Reasoning Language Models)は、複雑な論理的推論を必要とするタスクにおいて顕著な性能を示す。 我々は,LLMが短文推論と長文推論を適応的に選択できる学習可能なフレームワークであるThinklessを提案する。 Minerva Algebra、MATH-500、GSM8Kなどのベンチマークでは、Thinklessはロングチェーン思考の使用を50%から90%削減することができる。
  論文  参考訳（メタデータ） (2025-05-19T17:24:16Z)
• In-context KV-Cache Eviction for LLMs via Attention-Gate [12.732519329131392]
  KVキャッシュ技術は、大規模言語モデル(LLM)の推論の標準となっている。 本稿では,Attention-Gateと呼ばれる軽量モジュールをモデルに注入することで,KVキャッシュの動的な消去ポリシーを実現する。 提案手法は複数のシナリオにまたがって実験的に評価され,冗長トークンの有効排除は効率を向上するだけでなく,性能も向上することを示した。
  論文  参考訳（メタデータ） (2024-10-15T05:01:19Z)
• LLoCO: Learning Long Contexts Offline [63.3458260335454]
  長いコンテキストを処理するための新しいアプローチであるLLoCOを提案する。 LLoCOはコンテキスト圧縮とLoRAによるドメイン内パラメータ効率の微調整を通じて、オフラインでコンテキストを学習する。 提案手法は、4kトークンLLaMA2-7Bモデルの有効コンテキストウインドウを拡張し,最大128kトークンを処理する。
  論文  参考訳（メタデータ） (2024-04-11T17:57:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。