論文の概要: Memory for Large Language Models

• arxiv url: http://arxiv.org/abs/2607.25380v1
• Date: Tue, 28 Jul 2026 07:34:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.748748
• Title: Memory for Large Language Models
• Title（参考訳）: 大規模言語モデルのためのメモリ
• Abstract要約: 大規模言語モデルにおけるメモリの体系的・アーキテクチャ中心の分類法を提案する。 メモリ書き込み、ルーティング、状態遷移、統合を規定する粒度のメカニズムを定式化する。 この統一された視点は、計算に結合したメモリと独立して対応可能なメモリの間の概念的境界を解明する。
• 参考スコア（独自算出の注目度）: 18.001409529004807
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Memory has evolved into a foundational architectural dimension in large language models (LLMs), shifting from an implicit byproduct of computation to a spectrum of explicit, controllable mechanisms. While recent advances introduce diverse strategies---spanning transient attention, recurrent state dynamics, parameter-efficient adaptations, and scalable lookup storage---this rapid evolution has led to a highly fragmented research landscape. In this survey, we present a systematic, architecture-centric taxonomy of memory in LLMs. Our framework characterizes memory along three orthogonal axes: representation (implicit versus explicit), update dynamics (offline versus online), and persistence (short-term versus long-term). We further formalize the granular mechanisms dictating memory writing, routing, state transitions, and consolidation. This unified perspective elucidates the conceptual boundaries between computation-coupled and independently addressable memory, effectively bridging disparate architectural paradigms. Additionally, we critically analyze hybrid memory architectures, system-level efficiency trade-offs, and multi-dimensional evaluation methodologies. By consolidating these scattered advancements into a cohesive framework, this survey charts the trajectory of memory-centric LLM design and provides a principled foundation for future innovations in scalable and adaptive language modeling.
• Abstract（参考訳）: メモリは大規模言語モデル(LLM)の基本的アーキテクチャ次元へと進化し、暗黙的な計算副産物から明示的で制御可能なメカニズムのスペクトルへとシフトした。 最近の進歩は、過渡的注意、再帰状態ダイナミクス、パラメータ効率適応、スケーラブルなルックアップストレージといった様々な戦略を導入しているが、この急激な進化は、非常に断片化された研究環境を生み出している。 本稿では,LLMにおけるメモリの系統的,アーキテクチャ中心の分類について述べる。 我々のフレームワークは3つの直交軸に沿ってメモリを特徴付けている:表現(単純対明示)、更新ダイナミクス(オフライン対オンライン)、永続性(短期対長期)。 さらに、メモリ書き込み、ルーティング、状態遷移、統合を規定する粒度のメカニズムを定式化する。 この統一された視点は、計算に結合したメモリと独立して対応可能なメモリの間の概念的境界を解明し、異なるアーキテクチャパラダイムを効果的にブリッジする。 さらに,ハイブリッドメモリアーキテクチャ,システムレベルの効率トレードオフ,多次元評価手法を批判的に分析する。 これらの分散した進歩を凝集性フレームワークに統合することにより、メモリ中心のLCM設計の軌跡をグラフ化し、スケーラブルで適応的な言語モデリングにおける将来のイノベーションの基盤を提供する。

関連論文リスト

• The Dynamic Gist-Based Memory Model (DGMM): A Memory-Centric Architecture for Artificial Intelligence [0.0]
  本稿では,DGMM(Dynamic Gist-Based Memory Model)を提案する。 その結果,DGMMの特性は,記憶メモリの構造変化を伴わずに,エピソードの持続性,キュー条件の局所性,文脈変動性などの特性を規定した。
  論文  参考訳（メタデータ） (2026-05-04T00:02:51Z)
• The AI Hippocampus: How Far are We From Human Memory? [77.04745635827278]
  インプリシットメモリは、事前訓練されたトランスフォーマーの内部パラメータに埋め込まれた知識を指す。 明示メモリは、動的でクエリ可能な知識表現でモデル出力を増大させるように設計された外部ストレージと検索コンポーネントを含んでいる。 エージェントメモリは、自律エージェント内に永続的、時間的に拡張されたメモリ構造を導入する。
  論文  参考訳（メタデータ） (2026-01-14T03:24:08Z)
• Improving Multi-step RAG with Hypergraph-based Memory for Long-Context Complex Relational Modeling [83.29209853451697]
  多段階検索強化世代(RAG)は,大規模言語モデル(LLM)の拡張戦略として広く採用されている。 我々はHGMemというハイパーグラフベースのメモリ機構を導入し、複雑な推論とグローバルな理解のためにメモリの概念を動的に表現的構造に拡張する。 提案手法では,ハイパーエッジが異なるメモリ単位に対応するハイパーグラフとして表現され,メモリ内での高次相互作用の進行的形成を可能にする。
  論文  参考訳（メタデータ） (2025-12-30T03:13:10Z)
• Memory in the Age of AI Agents [217.9368190980982]
  この研究は、現在のエージェントメモリ研究の最新の展望を提供することを目的としている。 我々は,エージェントメモリ,すなわちトークンレベル,パラメトリック,潜時メモリの3つの支配的実現を同定する。 実用的な開発を支援するため、メモリベンチマークとオープンソースフレームワークの包括的な概要をコンパイルする。
  論文  参考訳（メタデータ） (2025-12-15T17:22:34Z)
• CAM: A Constructivist View of Agentic Memory for LLM-Based Reading Comprehension [55.29309306566238]
  現在のLarge Language Models (LLM) は、長文文書を解釈する際に圧倒的な情報量に直面している。 この課題は、バニラLSMを自律的な読み出しエージェントに高めることができる凝集性メモリモジュールの必須性を高める。 我々はジャン・ピアジェの構成主義理論(Constructivist Theory)からインスピレーションを得て、エージェントメモリの3つの特性(構造化スキーマ、フレキシブルな同化、動的調節)を表現した。
  論文  参考訳（メタデータ） (2025-10-07T02:16:30Z)
• PersonalAI: A Systematic Comparison of Knowledge Graph Storage and Retrieval Approaches for Personalized LLM agents [15.524189150821147]
  大規模言語モデル (LLM) とRetrieval-Augmented Generation (RAG) の組み合わせは、複雑な長期的相互作用においてスケールできない。 LLM自体によって自動的に構築・更新される知識グラフに基づくフレキシブルな外部メモリフレームワークを提案する。 AriGraphアーキテクチャに基づいて、標準エッジと2種類のハイパーエッジの両方をサポートする新しいハイブリッドグラフ設計を導入する。 本稿では,TriviaQA,HotpotQA,DiaASQ-demonstratingの3つのベンチマークを用いて,メモリと検索の異なる構成でタスクに応じて最適な性能が得られることを示す。
  論文  参考訳（メタデータ） (2025-06-20T13:52:15Z)
• Long-Context State-Space Video World Models [66.28743632951218]
  本稿では、状態空間モデル(SSM)を活用して、計算効率を損なうことなく時間記憶を拡張する新しいアーキテクチャを提案する。 我々の設計の中心はブロックワイズSSMスキャン方式であり、時間記憶の拡張のために空間整合性を戦略的にトレードオフする。 メモリ迷路とMinecraftのデータセットの実験は、我々のアプローチが長距離メモリ保存のベースラインを超えたことを示している。
  論文  参考訳（メタデータ） (2025-05-26T16:12:41Z)
• Quantifying Memory Utilization with Effective State-Size [73.52115209375343]
  「我々は、テキスト・メモリ利用の尺度を策定する。」 この計量は、textitinput-invariant および textitinput-variant linear operator を持つシステムの基本的なクラスに適合する。
  論文  参考訳（メタデータ） (2025-04-28T08:12:30Z)
• Empowering Working Memory for Large Language Model Agents [9.83467478231344]
  本稿では,認知心理学のワーキングメモリフレームワークを大規模言語モデル(LLM)に適用する可能性について検討する。 エピソード間の記憶を維持するために、集中型ワーキングメモリハブとエピソディックバッファアクセスを取り入れた革新的なモデルが提案されている。 このアーキテクチャは、複雑なタスクと協調シナリオの間のニュアンス付きコンテキスト推論に対して、より継続的なものを提供することを目的としている。
  論文  参考訳（メタデータ） (2023-12-22T05:59:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。