論文の概要: Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence

• arxiv url: http://arxiv.org/abs/2610.13277v1
• Date: Fri, 09 Oct 2026 09:27:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.505627
• Title: Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence
• Title（参考訳）: The Final Embedding:Recovering Memories from Token-Level Evidence
• Abstract要約: メモリ拡張されたアシスタントは、格納された会話とドキュメントから証拠を検索し、クエリに応答する。 ほとんどの埋め込みベースのレトリバーは、クエリとメモリの単一ベクトル表現を比較します。 本手法はスパーストークンマッチングを用いて,追加のトレーニングを伴わずに検索を改善する。
• 参考スコア（独自算出の注目度）: 28.3306749606874
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Memory-augmented assistants retrieve evidence from stored conversations and documents to answer queries. Most embedding-based retrievers compare single-vector representations of queries and memories, even when relevance depends on a small part of the content. Such local evidence can be matched to queries using the contextual token representations already computed by the same embedding models. Our method uses sparse token matching to improve retrieval without additional training. Each query token retrieves a small set of matching tokens across candidate memories. The matching scores are aggregated for each memory and combined with whole-memory similarity to rank memories. An optional low-rank query adapter can be trained with supervision while keeping the encoder and stored memory representations fixed. Our method improves retrieval across eight benchmarks and multiple model families without additional training. Query adaptation further increases the gains to 13.3 and 14.3 percentage points in average Recall@10 and NDCG@10 on Qwen3-Embedding-4B. These retrieval gains translate into higher question-answering accuracy on long-term memory benchmarks.
• Abstract（参考訳）: メモリ拡張されたアシスタントは、格納された会話とドキュメントから証拠を検索し、クエリに応答する。 ほとんどの埋め込みベースのレトリバーは、クエリとメモリの単一ベクトル表現を比較します。 このような局所的なエビデンスを、同じ埋め込みモデルで既に計算されているコンテキストトークン表現を使ってクエリとマッチングすることができる。 本手法はスパーストークンマッチングを用いて,追加のトレーニングを伴わずに検索を改善する。 各クエリトークンは、候補メモリ間で一致するトークンの小さなセットを検索する。 マッチングスコアは、各メモリに集約され、ランクメモリと全メモリ類似度が組み合わされる。 オプションの低ランククエリアダプタは、エンコーダとストアドメモリ表現を固定しながら、監督の下でトレーニングすることができる。 本手法は,8つのベンチマークと複数のモデルファミリ間の検索を,追加のトレーニングを伴わずに改善する。 クエリ適応により、Qwen3-Embedding-4B上の平均Recall@10とNDCG@10では13.3と14.3に上昇する。 これらの検索結果は、長期記憶ベンチマークにおいてより高い質問応答精度に変換される。

関連論文リスト

• Test-Time Memory Construction [50.916768004131505]
  大きな言語モデル(LLM)は、長いインタラクション履歴に関する質問に答えるのに苦労しています。 既存のメモリシステムは通常、ユーザクエリが観測される前に、オフラインで洗練されたメモリ表現を構築し維持する。 テスト時間メモリ構築フレームワークであるT$2$Memを提案する。
  論文  参考訳（メタデータ） (2026-10-09T10:24:51Z)
• NEAR: Neighborhood-Aware Residuals for Memory Retrieval [28.3306749606874]
  メモリ検索は、格納されたレコードから証拠を特定し、クエリに応答することを目的としている。 異なる事実の詳細を持つ保存されたレコードは、トピック、エンティティ、イベントを共有することができる。 これらのレコードが共有する情報を用いて、クエリ-メモリマッチングのためのローカル参照を構築します。
  論文  参考訳（メタデータ） (2026-10-09T09:57:27Z)
• The Retriever Should Remember: Experience-Amortized Reranking for Long-Term Agent Memory [29.20695058395373]
  我々は、以前取得した妥当性スコアを再利用可能な検索エクスペリエンスとして扱う、経験適応型リグレードフレームワークであるEARMを紹介する。 EARMは、スパースクエリ-メモリ関連スコアをオンラインマトリックスに格納し、因果行列の補完を通じて共有構造を学習し、新たに観測されたスコアの小さなセットと推定スコアを組み合わせて、残りの候補を再ランクする。 長期会話記憶の実験では、観察と推定の混合がセマンティック検索よりも解の精度を最大6.62%向上させることが示された。
  論文  参考訳（メタデータ） (2026-08-24T03:42:03Z)
• CoEvo-Mem: Co-Evolving Retrieval Policy and Memory Bank for LLM Agents [12.963751758893594]
  本稿では,検索ポリシとメモリバンクを併用するクローズドループフレームワークを提案する。 textbfCoEvo-Memは7つのベンチマークで最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-08-03T06:04:51Z)
• LazyMem: Retrieve Broadly, Construct Selectively for Efficient Long-Term Agent Memory [10.916121108457537]
  クエリ時間にすべてのメモリ構成を遅延させるLazyMemを紹介します。 LongMemEvalでは、LazyMem-4B は LLM-judge の精度 0.85 を達成し、最強の非線形ベースラインを上回っている。 さらに、ターゲットドメイントレーニングなしでLoCoMoに一般化し、以前のクエリ時間ベースラインと比較して平均レイテンシを低減する。
  論文  参考訳（メタデータ） (2026-07-17T12:49:57Z)
• Memory as a Controlled Process: Learned Adaptive Memory Management for LLM Agents [72.3752981234916]
  大きな言語モデル(LLM)エージェントは、タスク間の経験を蓄積するために、外部メモリシステムに依存している。 メモリ操作をマルコフ決定プロセスとしてモデル化するフレームワークである制御プロセス(MemCon)としてメモリを提示する。 MemConは、複数のメモリベースラインのタスク成功率を最大15.2ポイント上回り、トークン消費量を5-20%削減している。
  論文  参考訳（メタデータ） (2026-07-15T08:32:40Z)
• MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
  ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。 MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。 長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
  論文  参考訳（メタデータ） (2026-07-14T15:33:44Z)
• MemSearch-o1: Empowering Large Language Models with Reasoning-Aligned Memory Growth in Agentic Search [59.98962867649009]
  本稿では,メモリ成長とリトラシングに基づくエージェント検索フレームワークであるMemSearch-o1を提案する。 MemSearch-o1はクエリからメモリシードトークンからきめ細かいメモリフラグメントを成長させ、コントリビューション関数を通じてメモリを再トレースし、深く洗練し、最終的にグローバルに接続されたメモリパスを再編成する。
  論文  参考訳（メタデータ） (2026-04-19T05:35:06Z)
• From Single to Multi-Granularity: Toward Long-Term Memory Association and Selection of Conversational Agents [79.87304940020256]
  大言語モデル(LLM)は会話エージェントで広く採用されている。 MemGASは、多粒度アソシエーション、適応選択、検索を構築することにより、メモリ統合を強化するフレームワークである。 4つの長期メモリベンチマークの実験により、MemGASは質問応答と検索タスクの両方において最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2025-05-26T06:13:07Z)
• ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
  Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。 本稿では,リランカを利用してリコールを改善する手法を提案する。
  論文  参考訳（メタデータ） (2023-05-19T15:30:33Z)
• End-to-End Training of Multi-Document Reader and Retriever for Open-Domain Question Answering [36.80395759543162]
  本稿では,検索拡張されたオープンドメイン質問応答システムに対するエンドツーエンドの差別化学習手法を提案する。 我々は,検索決定を関連文書の集合よりも遅延変数としてモデル化する。 提案手法は,一致点の精度を2～3%向上させる。
  論文  参考訳（メタデータ） (2021-06-09T19:25:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。