論文の概要: Learning to Remember: Advances in Memory Mechanisms for Large Language Models
- arxiv url: http://arxiv.org/abs/2610.35089v1
- Date: Mon, 26 Oct 2026 09:31:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.813171
- Title: Learning to Remember: Advances in Memory Mechanisms for Large Language Models
- Title(参考訳): 思い出すための学習:大規模言語モデルのための記憶機構の進歩
- Abstract要約: この調査では、メモリのライフサイクル、記憶基板、LLMベースのエージェントでメモリが果たすシステムの役割の3つの相補的な側面に関する文献を整理した。
概念的モチベーション、計算メモリ機構、ベンチマーク、デプロイメントに関する懸念を合わせることで、この調査は、メモリ拡張LDMエージェントを設計するための構造化されたロードマップを提供する。
- 参考スコア(独自算出の注目度): 23.136739463702423
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Memory has become a central mechanism for extending large language models (LLMs) beyond fixed context windows, stateless interaction, and static parametric knowledge. This survey organizes the literature around three complementary dimensions: the life cycle of memory, the storage substrate, and the system role that memory plays in LLM-based agents, while using cognitive-science-inspired memory concepts as a lightweight conceptual motivation rather than as a separate technical contribution or implementation family. On this basis, we distinguish three mechanism families: nonparametric memory, where information is stored outside model parameters in text, graph, multimodal, or database-like structures; parametric memory, where information is stored or accessed through activations, key-value caches, learned modules, adapter-based parameterizations, or model weights; and memory for agent evolution, where stored experiences support reinforcement learning, continual learning, procedural reuse, context engineering, and agent harness design. Evaluation is treated as a separate cross-cutting component rather than as a memory mechanism. Unlike surveys that focus primarily on retrieval-augmented generation or long-context modeling, this paper emphasizes the full memory life cycle: construction, maintenance, retrieval, consolidation, forgetting, governance, and evaluation. By aligning conceptual motivations, computational memory mechanisms, benchmarks, and deployment concerns, the survey provides a structured roadmap for designing memory-augmented LLM agents that are persistent, adaptive, auditable, and safe to update over time.
- Abstract(参考訳): メモリは、固定されたコンテキストウィンドウ、ステートレスインタラクション、静的パラメトリック知識を超えて、大きな言語モデル(LLM)を拡張するための中心的なメカニズムとなっている。
本調査では,記憶のライフサイクル,記憶基板,LLMをベースとしたエージェントでメモリが果たすシステムの役割の3つの相補的な側面に関する文献を整理し,認知科学に触発された記憶概念を,独立した技術貢献や実装ファミリとしてではなく,軽量な概念的モチベーションとして利用した。
本手法では,非パラメトリックメモリ,テキスト,グラフ,マルチモーダル,データベース構造などのモデルパラメータの外部に情報を格納する非パラメトリックメモリ,アクティベーションを通じて情報を格納またはアクセスするパラメトリックメモリ,キーバリューキャッシュ,学習モジュール,アダプタベースのパラメータ化,モデルウェイト,エージェント進化のためのメモリ,ストアドエクスペリエンスが強化学習,継続的学習,手続き的再利用,コンテキストエンジニアリング,エージェントハーネス設計をサポートするエージェント進化のためのメモリ,の3つのメカニズムを区別する。
評価は、メモリメカニズムとしてではなく、別の横断的コンポーネントとして扱われる。
本論文は,主に検索強化世代や長期コンテキストモデリングに焦点を当てた調査とは違って,構築,保守,検索,統合,忘れ,ガバナンス,評価という,完全なメモリライフサイクルを強調している。
概念的モチベーション、計算メモリメカニズム、ベンチマーク、デプロイメントに関する懸念を整合させることで、調査は、永続的で適応性があり、監査可能で、時間とともに更新する安全な、メモリ拡張LDMエージェントを設計するための構造化されたロードマップを提供する。
関連論文リスト
- Memory for Large Language Models [18.001409529004807]
大規模言語モデルにおけるメモリの体系的・アーキテクチャ中心の分類法を提案する。
メモリ書き込み、ルーティング、状態遷移、統合を規定する粒度のメカニズムを定式化する。
この統一された視点は、計算に結合したメモリと独立して対応可能なメモリの間の概念的境界を解明する。
論文 参考訳(メタデータ) (2026-07-28T07:34:53Z) - Graph-based Agent Memory: Taxonomy, Techniques, and Applications [63.70340159016138]
メモリはLarge Language Model(LLM)ベースのエージェントの中核モジュールとして出現する。
さまざまなパラダイムの中でグラフは、関係依存をモデル化する本質的な能力のため、エージェントメモリの強力な構造として際立っている。
本調査では, エージェントメモリの総合的な検討について, グラフベースの観点から述べる。
論文 参考訳(メタデータ) (2026-02-05T13:49:05Z) - The AI Hippocampus: How Far are We From Human Memory? [77.04745635827278]
インプリシットメモリは、事前訓練されたトランスフォーマーの内部パラメータに埋め込まれた知識を指す。
明示メモリは、動的でクエリ可能な知識表現でモデル出力を増大させるように設計された外部ストレージと検索コンポーネントを含んでいる。
エージェントメモリは、自律エージェント内に永続的、時間的に拡張されたメモリ構造を導入する。
論文 参考訳(メタデータ) (2026-01-14T03:24:08Z) - Memory in the Age of AI Agents [217.9368190980982]
この研究は、現在のエージェントメモリ研究の最新の展望を提供することを目的としている。
我々は,エージェントメモリ,すなわちトークンレベル,パラメトリック,潜時メモリの3つの支配的実現を同定する。
実用的な開発を支援するため、メモリベンチマークとオープンソースフレームワークの包括的な概要をコンパイルする。
論文 参考訳(メタデータ) (2025-12-15T17:22:34Z) - MemOS: A Memory OS for AI System [116.87568350346537]
大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。
既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。
MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
論文 参考訳(メタデータ) (2025-07-04T17:21:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。