論文の概要: Temporal Context Reinstatement Drives Episodic-Like Order Memory in Long-Context Language Models

• arxiv url: http://arxiv.org/abs/2607.22575v1
• Date: Fri, 05 Jun 2026 14:19:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:38.974144
• Title: Temporal Context Reinstatement Drives Episodic-Like Order Memory in Long-Context Language Models
• Title（参考訳）: 時間的文脈再帰は長期言語モデルにおけるエピソード的順序記憶を駆動する
• Abstract要約: 長期記憶実験は、長期記憶の時間的側面が人工的および生物学的システムにおいてどのようにインスタンス化されるかの新しい洞察を提供する。 本研究では,時間的順序記憶課題においてヒトが観察する特徴的距離効果を示すモデルを示す。 これらの知見は, 側頭葉側頭葉側頭葉側頭葉記憶の重要なメカニズムとして, 側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側頭葉側
• 参考スコア（独自算出の注目度）: 39.75150245096903
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Human episodic memory supports the retrieval of experiences that unfold over extended timescales, yet the computational mechanisms underlying this ability remain debated due to the limited mechanistic accessibility in long-term memory experiments in humans. Long-context LLMs may offer promising ways to reveal plausible computational mechanisms that drive this type of retrieval. Here, we investigate whether and how LLMs capture the core behavioral signatures of episodic memory via a temporal order memory task. Using a new dataset of human behavior based on memory of a full-length novel, we show that models exhibit the same characteristic distance effect observed in humans on this task. We next apply long-context mechanistic interpretability analyses to uncover how models solve this task, and find that model performance relies on a one-dimensional temporal code that is reinstated during retrieval by a single time-reinstatement attention head. These findings support temporal context reinstatement as an important mechanism for episodic-like temporal-order memory in LLMs, offering new insights into how temporal aspects of long-term episodic memory may be instantiated in both artificial and biological systems.
• Abstract（参考訳）: 人間のエピソード記憶は、拡張された時間スケールで展開する経験の検索をサポートするが、人間の長期記憶実験における機械的アクセシビリティの制限により、この能力の根底にある計算メカニズムは議論されている。 長文LLMは、このタイプの検索を駆動する妥当な計算メカニズムを明らかにするための有望な方法を提供するかもしれない。 本稿では,LLMが時間順メモリタスクを介して,エピソードメモリのコア動作シグネチャを捕捉するかどうかについて検討する。 長編小説の記憶に基づく人間の行動の新たなデータセットを用いて,この課題においてヒトが観察した特徴的距離効果をモデルが示す。 次に、この課題をモデルがどのように解決するかを明らかにするために、長文メカニスティックな解釈可能性分析を適用し、モデルの性能は、1つの時間的注意ヘッドによる検索中に復元される1次元の時間的コードに依存することを示した。 これらの知見は, 長期記憶の時間的側面が, 人工的, 生物学的システムの両方においてどのようにインスタンス化されるかという新たな知見を提供するため, LLMにおける時間的文脈の再構築が, エピソード様の時間的秩序記憶の重要なメカニズムとして支持される。

関連論文リスト

• MemoryWAM: Efficient World Action Modeling with Persistent Memory [80.90899269062128]
  本稿では,効率的な永続メモリを持つ世界アクションモデルであるMemoryWAMを紹介する。 調整された注意機構は、詳細な短期コンテキストと圧縮された長期コンテキストの両方の検索を可能にする。 MemoryWAMは、シミュレーションと実世界の両方において、強力な視覚言語アクション(VLA)とWAMベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-06-18T17:59:51Z)
• MemGround: Long-Term Memory Evaluation Kit for Large Language Models in Gamified Scenarios [33.8882826707344]
  MemGroundは、リッチでゲーミフィケーションされたインタラクティブシナリオを基盤とした、厳格な長期メモリベンチマークである。 メモリ利用と行動軌跡の両方を包括的に定量化するために,多次元計量スイートを提案する。
  論文  参考訳（メタデータ） (2026-03-23T02:57:39Z)
• Beyond Dialogue Time: Temporal Semantic Memory for Personalized LLM Agents [68.84161689205779]
  テンポラルセマンティックメモリ(TSM)は、ポイントワイドメモリのセマンティックタイムをモデル化するメモリフレームワークである。 TSMは既存の手法を一貫して上回り、最大12.2%の精度向上を実現している。
  論文  参考訳（メタデータ） (2026-01-12T12:24:44Z)
• Amory: Building Coherent Narrative-Driven Agent Memory through Agentic Reasoning [14.368376032599437]
  Amoryは、オフライン時に構造化されたメモリ表現を積極的に構築するワーキングメモリフレームワークである。 アモリーは会話の断片を叙事詩の物語に整理し、記憶を運動量と統合し、周辺事実を意味記憶に意味づける。 Amoryは従来の最先端よりも大幅に改善され、パフォーマンスは完全なコンテキスト推論に匹敵し、レスポンスタイムを50%削減した。
  論文  参考訳（メタデータ） (2026-01-09T19:51:11Z)
• Evaluating Long-Term Memory for Long-Context Question Answering [100.1267054069757]
  質問応答タスクにアノテートした合成長文対話のベンチマークであるLoCoMoを用いて,メモリ拡張手法の体系的評価を行う。 以上の結果から,メモリ拡張アプローチによりトークン使用率が90%以上削減され,競争精度が向上した。
  論文  参考訳（メタデータ） (2025-10-27T18:03:50Z)
• Mnemosyne: An Unsupervised, Human-Inspired Long-Term Memory Architecture for Edge-Based LLMs [1.2582867366903179]
  我々は、エッジベース大規模言語モデル(LLM)のための、教師なし、人間にインスパイアされた長期記憶アーキテクチャであるMnemosyneを紹介する。 提案手法では, グラフ構造記憶, モジュール状物質および冗長性フィルタ, メモリコミットとプルーニング機構, 時間減衰とリフレッシュ処理による確率的リコールを用いた。 Mnemosyneは、反復的で意味的に類似しているが、時間的に異なる会話は、ナイーブ検索によって制限される縦型医療アシスタントでの使用を目的として設計されている。
  論文  参考訳（メタデータ） (2025-10-07T03:32:53Z)
• Position: Episodic Memory is the Missing Piece for Long-Term LLM Agents [43.94686139164999]
  本稿では,多言語モデル(LLM)エージェントのためのエピソディックメモリフレームワークを提案する。 このポジションペーパーは、長期的なエージェントの開発を促進するために、明らかに統合されたエピソード記憶に焦点を合わせるのが正しい時だと論じている。
  論文  参考訳（メタデータ） (2025-02-10T19:14:51Z)
• Long Short-term Memory with Two-Compartment Spiking Neuron [64.02161577259426]
  LSTM-LIFとよばれる,生物学的にインスパイアされたLong Short-Term Memory Leaky Integrate-and-Fireのスパイキングニューロンモデルを提案する。 実験結果は,時間的分類タスクの多種多様な範囲において,優れた時間的分類能力,迅速な訓練収束,ネットワークの一般化性,LSTM-LIFモデルの高エネルギー化を実証した。 したがって、この研究は、新しいニューロモルフィック・コンピューティング・マシンにおいて、困難な時間的処理タスクを解決するための、無数の機会を開放する。
  論文  参考訳（メタデータ） (2023-07-14T08:51:03Z)
• Sequential Memory with Temporal Predictive Coding [6.228559238589584]
  時空間予測符号化 (tPC) という, PC を用いた時空間メモリモデルを提案する。 我々のtPCモデルは、生物学的に妥当なニューラル実装を用いて、シーケンシャルな入力を正確に記憶し、取得できることを示します。
  論文  参考訳（メタデータ） (2023-05-19T20:03:31Z)
• Memory in humans and deep language models: Linking hypotheses for model augmentation [1.0485739694839669]
  メモリ拡張トランスフォーマーは、人間の記憶文学からの洞察から大きく恩恵を受けることができると我々は主張する。 本稿では、クロスドメインリンク仮説の仕様により、人間の記憶システムからのエビデンスを統合するアプローチについて詳述する。
  論文  参考訳（メタデータ） (2022-10-04T19:35:11Z)
• Temporal Memory Relation Network for Workflow Recognition from Surgical Video [53.20825496640025]
  本研究では, 長期および多スケールの時間パターンを関連づける, エンドツーエンドの時間メモリ関係ネットワーク (TMNet) を提案する。 我々はこのアプローチを2つのベンチマーク手術ビデオデータセットで広範囲に検証した。
  論文  参考訳（メタデータ） (2021-03-30T13:20:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。