論文の概要: When Does Selection Replace Extraction? A Pre-Registered Test of Agent Memory with a Typed Decision Model
- arxiv url: http://arxiv.org/abs/2609.34227v1
- Date: Mon, 28 Sep 2026 03:34:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 22:46:36.761163
- Title: When Does Selection Replace Extraction? A Pre-Registered Test of Agent Memory with a Typed Decision Model
- Title(参考訳): 選択抽出はいつ置き換えられるか : タイプ決定モデルを用いたエージェントメモリの事前登録試験
- Abstract要約: 会話記憶はLLM抽出事実を必要とするのか、それとも適切な生のターンを選択するのか?
近年の研究では、格付けが良い生の歴史も見受けられるが、格付けが重要かどうかについては意見が分かれている。
われわれはLoCoMoの会話とLongMemEvalについて事前登録した。
- 参考スコア(独自算出の注目度): 1.439518478021091
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Does conversational memory need LLM-extracted facts, or is selecting the right raw turns enough? Published results disagree. Extraction-based systems report gains from distilled facts. Recent studies find raw history with good ranking does as well, but disagree about whether ranking matters. We ran a pre-registered study on held-out LoCoMo conversations and LongMemEval. At a tight budget on LoCoMo, raw turns selected by a single call to Jev, a typed decision model, are non-inferior to an LLM-extraction memory (one-sided 95% bound -3.0 points against a -5-point margin). Blind human grading narrows the margin but does not change the result. Raw turns cost 3,061 times less to write, and the result holds with a second answer model. Within this study, reranking's gain shrinks as the budget grows. It adds 17.4 points on LoCoMo and 9.1 on LongMemEval when three of 30 candidates are kept. At generous budgets it adds 1.5 and 1.1, and extraction systems are more accurate. This suggests why published results disagree. At matched context, Jev selects as accurately as an LLM reranker (non-inferiority bound -2.0) at a third of the latency, and more accurately than a multi-call graph traversal. Reranking lowers correct abstention. Plans, code and graded answers are released.
- Abstract(参考訳): 会話記憶はLLM抽出事実を必要とするのか、それとも適切な生のターンを選択するのか?
結果は一致しない。
抽出に基づくシステム報告は、蒸留された事実から得られる。
近年の研究では、格付けが良い生の歴史も見受けられるが、格付けが重要かどうかについては意見が分かれている。
われわれはLoCoMoの会話とLongMemEvalについて事前登録した。
LoCoMoの厳格な予算では、型付き決定モデルであるJevへの1回の呼び出しで選択された生のターンは、LCM抽出メモリ(一方の95%境界-3.0ポイント対-5ポイントマージン)と非競合である。
盲目の人間の格付けはマージンを狭めるが、結果は変わらない。
Rawは書き込みコストを3,061倍削減し、第2の回答モデルで処理する。
この調査では、予算が増加するにつれて、再選の利益は減少する。
LoCoMoで17.4ポイント、LongMemEvalで9.1ポイント、30人の候補者のうち3人が残る。
寛大な予算では1.5と1.1が追加され、抽出システムはより正確である。
これは、なぜ公表された結果が一致しないのかを示唆している。
一致したコンテキストでは、Jevは遅延の3分の1でLLMリランカ(非不等式境界-2.0)と同じくらい正確に、マルチコールグラフトラバースよりも正確に選択する。
格下げは正しい棄権。
計画、コード、グレードされた回答がリリースされます。
関連論文リスト
- Check The Scoreboard: An Analysis of Scoring Schemes on Multiple-Choice Evaluation [52.58737865652009]
NLPにおけるMultiple-choice Question answering (MCQA)ベンチマークは、数右スコアリング(精度)を用いる。
教育試験において、スコアリング方式は、応答モードモデルが従うこと、および応答のグレーディングルールの組み合わせであり、どの能力に報酬を与えるかを規定する重要な設計選択である。
我々は、MCQAが6つの教育にインスパイアされた6つのスキームで、正確性を超えた能力を評価することで、数字右の代替手段がどのように変化するかを検討する。
論文 参考訳(メタデータ) (2026-08-30T16:35:22Z) - rEDMRec: Distilling Large Language Model Reasoning into an Editable Experience Memory for Recommendation [3.2434811678562685]
大規模言語モデルは、ユーザ履歴や候補項目に対して明示的に推論することで、推奨品質を改善することができる。
この推論は、すべてのランク付け要求を繰り返すのに高価であり、一度生成すると、通常一度消費され、破棄される。
本稿では,教師の推論を4つのタイプ付き編集可能な体験チャネルに蒸留するrEDMRecを提案する。
論文 参考訳(メタデータ) (2026-08-19T14:17:34Z) - A decodability criterion predicts when hidden-state selection beats majority voting in large language models [10.860308169044679]
本稿では,解答点隠れ状態の線形ゲートを訓練し,最上位候補を選択する動的選択結合器を提案する。
その主な貢献は、解答可能性(deodability)であり、ゲートが質問の正しい候補をどれだけ正確にランクづけしているかの漏れのない尺度である。
論文 参考訳(メタデータ) (2026-08-17T21:02:10Z) - AgenticSTS: A Bounded-Memory Testbed for Long-Horizon LLM Agents [34.450981549319266]
長期 LLM エージェントの記憶は、将来の決定が何を見るかに関する契約である。
すべての決定は、型付き検索によって組み立てられた新鮮なユーザメッセージからなされます。
Slay the Spire 2はクローズドルールのデッキビルディングゲームだ。
論文 参考訳(メタデータ) (2026-07-02T14:44:32Z) - The Quality-Utility Paradox: Why High-Reward Data Impairs Small Model Mathematical Reasoning [54.477658074293885]
より強力なOracleによって洗練または合成されたデータは、報酬モデルに従って高い品質を得る。
我々の分析によると、Oracleの洗練は、SLMのネイティブな推論分布から逸脱した分布的ドリフトによる論理的修復と結合している。
これらの結果から, 有効数学的推論蒸留法は, 認識された解の質と学習者データの互換性を協調的に最適化することが示唆された。
論文 参考訳(メタデータ) (2026-06-15T03:13:07Z) - When Offline Selectors Cannot Beat the Best Single Model: A Diagnostic Study on edX Dropout Prediction [0.35185044688786976]
記録されたデータから訓練されたセレクタは 常に最強の予測器を 打ち負かさない
3段階の診断は、共有バッファ上でそれらを規定する。
次のイテレーションでは、オフラインの学習者をチューニングすることなく、状態を変更したり、新しいデータを集めたりする必要がある。
論文 参考訳(メタデータ) (2026-06-02T19:24:09Z) - The 99% Success Paradox: When Near-Perfect Retrieval Equals Random Selection [1.2647816797166167]
本稿では,ビットオーバランサム(BoR)について紹介する。これは,高い成功率がランダムレベルのパフォーマンスを隠蔽することを示す検索選択度尺度である。
予測カバレッジ比$left(fracK cdot barR_qNright)$が3~5を超えると,ベースラインが支配的になり,選択性が低下することを示す。
これらの結果から,BoRは従来の指標とともに報告され,追加検索が無視可能な選択性向上をもたらす場合の深度選択を再考することが示唆された。
論文 参考訳(メタデータ) (2026-05-14T00:19:57Z) - Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。
ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。
トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
論文 参考訳(メタデータ) (2026-02-26T11:08:39Z) - MentorCollab: Selective Large-to-Small Inference-Time Guidance for Efficient Reasoning [85.05204262206296]
大きな推論モデル(LRM)は、長い思考の連鎖を生成することによって、強い性能を達成するが、その推論コストは高い。
小型言語モデル(SLM)はより効率的であるが、多段階推論タスクでは困難である。
本研究では, LRM が SLM を選択的かつ簡潔にガイドする推論時協調手法である MentorCollab を提案する。
論文 参考訳(メタデータ) (2026-02-05T04:58:16Z) - Making Your First Choice: To Address Cold Start Problem in Vision Active
Learning [90.24315238412407]
アクティブラーニングは、最初に注釈付けされる最も重要なデータを反復的に選択することで、アノテーション効率を改善することを約束する。
我々はこれを視覚能動学習におけるコールドスタート問題とみなす。
本稿では,コントラスト学習の3つの利点を生かして,コールドスタート問題に対処する。
論文 参考訳(メタデータ) (2022-10-05T17:59:50Z) - The price of unfairness in linear bandits with biased feedback [62.25313751895011]
線形帯域フィードバックによる逐次意思決定の問題点について検討する。
その結果,不偏フィードバック下で得られたdT 1/2 log(T) の後悔率よりも最悪の後悔率が高いことがわかった。
興味深いことに、ギャップ依存率によって、問題はバイアスのないものほど難しくない非自明なインスタンスの存在が明らかになる。
論文 参考訳(メタデータ) (2022-03-18T08:03:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。