論文の概要: COUNTERMEM: World-Model Verified Counter-Factual Memory for Language Agents
- arxiv url: http://arxiv.org/abs/2609.31874v1
- Date: Fri, 25 Sep 2026 18:12:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 05:03:12.797127
- Title: COUNTERMEM: World-Model Verified Counter-Factual Memory for Language Agents
- Title(参考訳): COUNTERMEM: 言語エージェントのためのワールドモデル検証対実メモリ
- Abstract要約: COUNTERMEMは、タスク間で検証済みの反ファクトメモリの構築と使用のための強化学習フレームワークである。
動作が失敗した後、COUNTERMEMは元の状態のコピーまたはリセットからローカル代替品を評価する。
オリジナルと修正されたアクション、チェック結果、再利用条件の改善を格納する。
- 参考スコア(独自算出の注目度): 40.59788210629839
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing agent memory frameworks mainly create memory through an agent's interaction with the factual world, e.g., remembering feedback from actions taken to improve performance on future tasks. However, these frameworks seldom ask the "what if" question during memory construction: what if a different action had been taken, would the feedback have changed, and how could this feedback become useful memory? Obtaining such feedback directly in an active environment can be expensive and can alter the state needed for comparison. In this work, we introduce COUNTERMEM, a reinforcement-learning framework for constructing and using verified counterfactual memory across tasks. After a failed action, COUNTERMEM evaluates local alternatives from a copy or reset of the original state using executable world models, such as tests, proof checkers, and solvers. It stores improvements with the original and corrected actions, checked outcomes, and conditions for reuse. A learned memory-use policy selects a retrieved record or skips memory to balance task success and interaction cost, while the base LLM remains fixed. Both memory and policy are frozen during held-out evaluation. We evaluate COUNTERMEM on 12 benchmark settings across six domains. With gpt-oss-120b, COUNTERMEM improves both ReAct and Reflexion on all 12 benchmarks across six domains, averaging a gain of 12.6 percentage points over their unaugmented versions. In the four-domain comparison across two backbones, task-run tokens decrease by 7.7-42.0%, excluding offline selector-training costs. Further analyses show that removing verification or persistent storage weakens the gains, while applying verified corrections to unsuitable decisions can reverse them. Code will be released upon acceptance.
- Abstract(参考訳): 既存のエージェントメモリフレームワークは、主にエージェントと現実の世界とのインタラクションを通じてメモリを生成し、例えば、将来のタスクのパフォーマンスを改善するために取られたアクションからのフィードバックを記憶する。
しかし、これらのフレームワークは、メモリ構築中に「もし」質問をするのはほとんどない。もし別のアクションが取られたら、フィードバックは変わり、このフィードバックはどのように有用なメモリになるのか?
このようなフィードバックをアクティブな環境で直接保持することはコストがかかり、比較に必要な状態を変更できる。
本研究では,タスク間で検証済みの反事実記憶を構築し,使用するための強化学習フレームワークであるCOUNTERMEMを紹介する。
動作が失敗した後、COUNTERMEMはテスト、証明チェッカー、解決器といった実行可能な世界モデルを用いて、元の状態のコピーまたはリセットからローカルな代替品を評価する。
オリジナルと修正されたアクション、チェック結果、再利用条件の改善を格納する。
学習されたメモリ使用ポリシーは、取得したレコードを選択したり、メモリをスキップしてタスクの成功とインタラクションコストのバランスをとる。
メモリとポリシーは、保留評価中に凍結される。
我々は6つの領域で12のベンチマーク設定でCOUNTERMEMを評価した。
gpt-oss-120bでは、COUNTERMEMは6つのドメインにわたる12のベンチマークでReActとReflexionの両方を改善し、修正されていないバージョンよりも平均12.6ポイント向上している。
2つのバックボーン間の4ドメイン比較では、オフラインセレクタトレーニングコストを除いて、タスク実行トークンは7.7-42.0%減少する。
さらなる分析では、検証や永続ストレージの削除が利得を弱める一方で、不適切な判断に検証された修正を適用することで、それらを逆転させることができることが示されている。
コードは受理時にリリースされる。
関連論文リスト
- ReplayLens: Auditing Agents' Use of Outcomes [16.745093090677475]
エージェントがログ化された経験を再利用すると、変更した決定は記録されたスコア、アクション名、記憶中のレコードの位置を反映する。
ReplayLensは、保存された履歴の1つの関係を一度に変更し、残りのインターフェイスを固定し、その結果の判断を計測するブラックボックス監査である。
論文 参考訳(メタデータ) (2026-09-28T02:56:32Z) - Memory That Changes Action Is Not Memory That Guides It: Counterfactual Auditing of History-Conditioned Robot Policies [15.339579037728901]
ロボットは、2つのタスク一貫性のある過去に遭遇し、同じ入力に再収束するが、異なる動作を保証できる。
本稿では,2つの履歴を相互に横断するメモリ・ポリティクス評価プロトコルを提案する。
ロボットは、記憶を用いて過去の保証事項を確実に選択することなく、記憶と反応が可能であることを示す。
論文 参考訳(メタデータ) (2026-09-23T02:31:53Z) - VibeMemBench: Evaluating Memory Systems for Coding Agents on Real Repository Coding Tasks [74.71365175490853]
我々は90のSWE-rebench V2レポジトリから111のコーディングターゲットのメモリシステムを評価するベンチマークであるVibeMemBenchを紹介する。
ターゲットはSWEベンチマークスタイルに従い、バグ修正、機能要求、インターフェースの変更、設定作業をカバーする。
ダイレクトインジェクションは、4つのタスクの解像度を1.1から4.5ポイント引き上げ、エージェントステップを5つに下げる。しかし、4つの既存のメモリシステムが同じ履歴から経験を構築・取得しなければならない場合、12のソルバのうち11のシステムペアリングは一致したメモリオフベースラインを超えない。
論文 参考訳(メタデータ) (2026-09-20T11:44:03Z) - TARL: Transaction-Aware Reliable Ledgers for Executable Memory Management in Long-Term Agents [20.123133746969398]
メモリ状態更新フレームワークであるTARLを導入し、各ステートメントを5つの実行可能なアクションのうちの1つにマップする。
TARLは、影響を受けるメモリを特定し、その時間的スコープを解決し、ソースの信頼性を比較し、受け入れ、保留、拒否された台帳を更新する。
また、粒度の細かいアクションラベルと次の状態目標を持つベンチマークであるTARL-Memについても紹介する。
論文 参考訳(メタデータ) (2026-08-04T14:02:55Z) - Voice Memory for Agentic Speech Recognition [66.69623133635868]
エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。
同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。
10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
論文 参考訳(メタデータ) (2026-07-29T02:42:56Z) - Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents [72.3752981234916]
大きな言語モデル(LLM)エージェントは、タスク間の経験を蓄積するために、外部メモリシステムに依存している。
メモリ操作をマルコフ決定プロセスとしてモデル化するフレームワークである制御プロセス(MemCon)としてメモリを提示する。
MemConは、複数のメモリベースラインのタスク成功率を最大15.2ポイント上回り、トークン消費量を5-20%削減している。
論文 参考訳(メタデータ) (2026-07-15T08:32:40Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳(メタデータ) (2026-06-23T13:52:46Z) - Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。
最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
論文 参考訳(メタデータ) (2026-05-14T20:15:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。