論文の概要: Knowledge Access Beats Model Size: Memory Augmented Routing for Persistent AI Agents

• arxiv url: http://arxiv.org/abs/2603.23013v1
• Date: Tue, 24 Mar 2026 09:55:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.420856
• Title: Knowledge Access Beats Model Size: Memory Augmented Routing for Persistent AI Agents
• Title（参考訳）: 知識アクセスがモデルサイズを上回る:永続的なAIエージェントのためのメモリ拡張ルーティング
• Authors: Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen,
• Abstract要約: プロダクションAIエージェントは、非常に反復的なユーザ固有のクエリを頻繁に受信する。 この冗長性は会話記憶によって利用でき、コスト負担から効率上の利点へと繰り返し変換される。
• 参考スコア（独自算出の注目度）: 9.457255218406333
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Production AI agents frequently receive user-specific queries that are highly repetitive, with up to 47\% being semantically similar to prior interactions, yet each query is typically processed with the same computational cost. We argue that this redundancy can be exploited through conversational memory, transforming repetition from a cost burden into an efficiency advantage. We propose a memory-augmented inference framework in which a lightweight 8B-parameter model leverages retrieved conversational context to answer all queries via a low-cost inference path. Without any additional training or labeled data, this approach achieves 30.5\% F1, recovering 69\% of the performance of a full-context 235B model while reducing effective cost by 96\%. Notably, a 235B model without memory (13.7\% F1) underperforms even the standalone 8B model (15.4\% F1), indicating that for user-specific queries, access to relevant knowledge outweighs model scale. We further analyze the role of routing and confidence. At practical confidence thresholds, routing alone already directs 96\% of queries to the small model, but yields poor accuracy (13.0\% F1) due to confident hallucinations. Memory does not substantially alter routing decisions; instead, it improves correctness by grounding responses in retrieved user-specific information. As conversational memory accumulates over time, coverage of recurring topics increases, further narrowing the performance gap. We evaluate on 152 LoCoMo questions (Qwen3-8B/235B) and 500 LongMemEval questions. Incorporating hybrid retrieval (BM25 + cosine similarity) improves performance by an additional +7.7 F1, demonstrating that retrieval quality directly enhances end-to-end system performance. Overall, our results highlight that memory, rather than model size, is the primary driver of accuracy and efficiency in persistent AI agents.
• Abstract（参考訳）: プロダクションAIエージェントは、しばしば非常に反復的なユーザ固有のクエリを受け取り、47\%は前回のインタラクションとセマンティックに類似しているが、各クエリは通常、同じ計算コストで処理される。 この冗長性は会話記憶によって利用でき、コスト負担から効率上の利点へと繰り返し変換される。 本稿では,軽量な8Bパラメータモデルで検索した会話コンテキストを利用して,低コストな推論パスを通じて全てのクエリに応答するメモリ拡張型推論フレームワークを提案する。 追加のトレーニングやラベル付きデータなしで、本手法は30.5\% F1を達成し、フルコンテキスト235Bモデルの性能の69\%を回復し、有効コストを96\%削減する。 特に、メモリを持たない235Bモデル(13.7\% F1)は、スタンドアロンの8Bモデル(15.4\% F1)でさえ性能が劣る。 ルーティングと信頼性の役割をさらに分析する。 実際の信頼しきい値では、ルーティングだけでは96\%のクエリを小さなモデルに誘導するが、自信のある幻覚のために精度が低い(13.0\% F1)。 メモリはルーティングの決定を実質的に変更せず、代わりに、検索されたユーザ固有の情報に応答を接地することで正確性を向上させる。 会話記憶が時間とともに蓄積されるにつれて、繰り返しトピックのカバレッジが増加し、パフォーマンスのギャップはさらに狭まる。 我々は152のLoCoMo質問(Qwen3-8B/235B)と500のLongMemEval質問について検討した。 ハイブリッド検索(BM25 + cosine 類似性)を組み込むことで、追加の +7.7 F1 により性能が向上し、検索品質がエンドツーエンドシステムの性能を直接的に向上することを示す。 全体としては、モデルのサイズではなくメモリが、永続的なAIエージェントの精度と効率の第一の要因であることを強調します。

関連論文リスト

• CIMemories: A Compositional Benchmark for Contextual Integrity of Persistent Memory in LLMs [62.116710797795314]
  大規模言語モデル(LLM)は、パーソナライゼーションとタスクパフォーマンスを向上させるために、過去のインタラクションから永続的なメモリを使用することが多い。 タスクコンテキストに基づいて,LLMがメモリからの情報フローを適切に制御するかどうかを評価するベンチマークであるCIMemoriesを提案する。
  論文  参考訳（メタデータ） (2025-11-18T21:51:23Z)
• MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
  本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。 それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。 我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
  論文  参考訳（メタデータ） (2025-11-04T18:27:39Z)
• Continual Learning via Sparse Memory Finetuning [58.163704181154834]
  本稿では,スパースパラメータの更新が大惨事な忘れをせずに学習を可能にするかどうかを考察する。 事前学習データの使用に関する新しい知識によって活性化されるメモリスロットのみを更新することにより、新しい知識とモデルの既存の能力との干渉を減らすことができる。 スパースメモリの微調整は、忘れることを大幅に減らしながら、新しい知識を学習することを発見した。
  論文  参考訳（メタデータ） (2025-10-16T19:44:38Z)
• MLP Memory: A Retriever-Pretrained Memory for Large Language Models [39.890098399493986]
  NLPRAG Memoryは、明示的なドキュメントアクセスなしに検索パターンを内部化する軽量パラメトリックモジュールである。 我々のアーキテクチャは、このトレーニング済みメモリとトランスフォーマーデコーダを単純な確率で統合し、WikiText-103とWebデータセットでそれぞれ17.5%と24.1%のスケーリングゲインを得る。
  論文  参考訳（メタデータ） (2025-08-03T16:40:53Z)
• Maximally-Informative Retrieval for State Space Model Generation [59.954191072042526]
  テスト時に特定のクエリに対するモデル不確実性を最小化するために、Retrieval In-Context Optimization (RICO)を導入する。 文書検索に外部に依存した従来の検索強化生成(RAG)とは異なり,本手法はモデルから直接のフィードバックを利用する。 モデル勾配を用いた標準のトップ$kの検索は、最適化手順を近似し、残余損失への接続を提供することを示す。
  論文  参考訳（メタデータ） (2025-06-13T18:08:54Z)
• Efficient and Accurate Memorable Conversation Model using DPO based on sLLM [0.1285666675142425]
  本稿では,セッション進行時にメモリを効率的に管理する会話モデルを提案する。 DPOアルゴリズムを用いたモデルでは,BERTScoreの約0.0591のメモリ精度が向上した。 本モデルでは, 精度だけでなく資源利用においても効率性を示す。
  論文  参考訳（メタデータ） (2024-07-09T04:17:39Z)
• Efficient Prompt Caching via Embedding Similarity [26.456212783693545]
  類似度を埋め込んだ単ラウンド質問問合せタスクにおけるプロンプトキャッシングの予測精度に着目した。 そこで本研究では, 蒸留法を用いて既存の埋込物を微調整し, より良い予測を行う方法を提案する。 また、トレーニングされたモデルが従来の埋め込みモデルよりもキャッシング効率が良いことを示すシミュレーションも行います。
  論文  参考訳（メタデータ） (2024-02-02T06:34:11Z)
• Alexa Teacher Model: Pretraining and Distilling Multi-Billion-Parameter Encoders for Natural Language Understanding Systems [63.713297451300086]
  本研究では,700Mから9.3Bまでの非埋め込みパラメータ数を持つ事前学習エンコーダの大規模実験結果について述べる。 その後、17M-170Mパラメータからより小さなモデルに蒸留し、仮想アシスタントシステムの自然言語理解(NLU)コンポーネントに応用した。
  論文  参考訳（メタデータ） (2022-06-15T20:44:23Z)
• AutoFIS: Automatic Feature Interaction Selection in Factorization Models for Click-Through Rate Prediction [75.16836697734995]
  自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。 AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。 AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
  論文  参考訳（メタデータ） (2020-03-25T06:53:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。