論文の概要: Memory in Deep Time-Series Models
- arxiv url: http://arxiv.org/abs/2609.06006v1
- Date: Sat, 05 Sep 2026 10:19:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.17923
- Title: Memory in Deep Time-Series Models
- Title(参考訳): 深部時系列モデルの記憶
- Authors: Minh Hoang Nguyen, Huu Hiep Nguyen, Manh Nguyen, Van Dai Do, Dung Nguyen, Hung Le,
- Abstract要約: メモリは、下位のバックボーンに依存しない時系列モデリングの第一級次元として研究する。
メモリ機構の統一的な分類法を開発し,明示的なモジュール,検索拡張,エージェントストアを含む3つの外部メモリのクラスをレビューする。
クロスカット分析は、これらのメカニズムを時系列タスクにマッピングし、メソッドと評価の両方のギャップを識別する。
- 参考スコア(独自算出の注目度): 8.383172865412154
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning for time series has progressed through successive architectural paradigms, from recurrent networks and transformers to structured state-space models, retrieval-augmented predictors, foundation models, and tool-using agents. These developments are typically studied in isolation, organized by architecture or modeling era. We argue that they can instead be viewed through a common question of \emph{how does a time-series model retain and access information beyond its immediate input?} This question is motivated by a fundamental limitation of conventional time-series modeling: information relevant to a prediction may lie far beyond a feasible input window, while compressing history into a fixed-size state can discard information that may become useful later. We formulate this challenge as a \emph{memory} problem and organize existing time-series methods along a spectrum from internal memory, encoded in parameters and fixed-size states, to external memory that is addressable, retrievable, and increasingly maintained by agents. We then develop a unified taxonomy of memory mechanisms and review three classes of external memory, including explicit modules, retrieval augmentation, and agentic stores, under a common framework for what is retained, how it is written and accessed, and how it persists. A cross-cutting analysis maps these mechanisms to time-series tasks and identifies gaps in both methods and evaluation. We conclude by outlining open problems in building memory systems that can selectively retain, retrieve, revise, and forget information as temporal environments evolve. The result is a framework for studying memory as a first-class dimension of time series modeling, independent of the underlying backbone.
- Abstract(参考訳): 時系列のディープラーニングは、リカレントネットワークやトランスフォーマーから構造化された状態空間モデル、検索強化予測器、基礎モデル、ツール使用エージェントに至るまで、連続したアーキテクチャパラダイムを通じて進歩してきた。
これらの開発は通常、アーキテクチャやモデリングの時代によって組織化され、独立して研究される。
時系列モデルは、その即時入力を超える情報を保持し、アクセスするにはどうすればよいのか?
この質問は、従来の時系列モデリングの基本的な制限によって動機付けられており、予測に関連する情報は、実現可能な入力ウィンドウをはるかに超え、また、履歴を固定サイズの状態に圧縮することは、後で有用になる可能性のある情報を破棄することができる。
我々は、この課題を \emph{Memory} 問題として定式化し、内部メモリからパラメータや固定サイズ状態にエンコードされた既存の時系列メソッドから、アドレス可能で検索可能で、エージェントによってますます維持される外部メモリまでを整理する。
次に、メモリ機構を統一した分類法を開発し、明示的なモジュール、検索拡張、エージェントストアを含む外部メモリの3つのクラスを、保持されているもの、どのように書かれてアクセスされるか、どのように保持されるかという共通の枠組みの下でレビューする。
クロスカット分析は、これらのメカニズムを時系列タスクにマッピングし、メソッドと評価の両方のギャップを識別する。
時間的環境が進化するにつれて、情報を選択的に保持、検索、修正、忘れることができるメモリシステム構築におけるオープンな問題を概説して結論付ける。
その結果、基礎となるバックボーンとは独立して、時系列モデリングの第一級次元としてメモリを研究するためのフレームワークとなった。
関連論文リスト
- Memory for Large Language Models [18.001409529004807]
大規模言語モデルにおけるメモリの体系的・アーキテクチャ中心の分類法を提案する。
メモリ書き込み、ルーティング、状態遷移、統合を規定する粒度のメカニズムを定式化する。
この統一された視点は、計算に結合したメモリと独立して対応可能なメモリの間の概念的境界を解明する。
論文 参考訳(メタデータ) (2026-07-28T07:34:53Z) - MRMS: A Multi-Resolution Memory Substrate for Long-Lived AI Agents [2.808851478009314]
長期的なAIエージェントは、相互作用の連続性を必要とする。
プロンプトウィンドウを拡張するだけで連続性を得ることはできない。
2つの軸に沿って構成されたアーキテクチャ記憶基板を提案する。
論文 参考訳(メタデータ) (2026-07-06T02:54:37Z) - The Dynamic Gist-Based Memory Model (DGMM): A Memory-Centric Architecture for Artificial Intelligence [0.0]
本稿では,DGMM(Dynamic Gist-Based Memory Model)を提案する。
その結果,DGMMの特性は,記憶メモリの構造変化を伴わずに,エピソードの持続性,キュー条件の局所性,文脈変動性などの特性を規定した。
論文 参考訳(メタデータ) (2026-05-04T00:02:51Z) - Discrete Prototypical Memories for Federated Time Series Foundation Models [62.22804699052539]
FLベースの時系列基礎モデルとして大規模言語モデルを活用することは、LLMの一般化能力を時系列データに転送する有望な方法を提供する。
しかし、時系列データと既存のLCMのテキスト中心の潜在空間とのセマンティックなミスアライメントは、しばしば性能低下につながる。
離散型記憶に基づく時系列基礎モデルのための統合フレームワークであるtextscFeDPMを提案する。
論文 参考訳(メタデータ) (2026-04-06T06:57:08Z) - Graph-based Agent Memory: Taxonomy, Techniques, and Applications [63.70340159016138]
メモリはLarge Language Model(LLM)ベースのエージェントの中核モジュールとして出現する。
さまざまなパラダイムの中でグラフは、関係依存をモデル化する本質的な能力のため、エージェントメモリの強力な構造として際立っている。
本調査では, エージェントメモリの総合的な検討について, グラフベースの観点から述べる。
論文 参考訳(メタデータ) (2026-02-05T13:49:05Z) - Continuum Memory Architectures for Long-Horizon LLM Agents [0.0]
Retrieval-augmented Generation (RAG) は、文脈知識を備えた大規模言語モデル(LLM)エージェントのデフォルト戦略となっている。
textitContinuum Memory Architecture (CMA)は、インタラクション間の内部状態をメンテナンスし、更新するシステムのクラスです。
我々は、RAGの構造的欠如が記憶の蓄積、突然変異、曖昧さを露呈するタスクに対して、一貫した振る舞い上の利点を示す。
論文 参考訳(メタデータ) (2026-01-14T22:40:35Z) - The AI Hippocampus: How Far are We From Human Memory? [77.04745635827278]
インプリシットメモリは、事前訓練されたトランスフォーマーの内部パラメータに埋め込まれた知識を指す。
明示メモリは、動的でクエリ可能な知識表現でモデル出力を増大させるように設計された外部ストレージと検索コンポーネントを含んでいる。
エージェントメモリは、自律エージェント内に永続的、時間的に拡張されたメモリ構造を導入する。
論文 参考訳(メタデータ) (2026-01-14T03:24:08Z) - MemOS: A Memory OS for AI System [116.87568350346537]
大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。
既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。
MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
論文 参考訳(メタデータ) (2025-07-04T17:21:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。