論文の概要: LOCI: Spatial Linear Memory for Streaming World Models
- arxiv url: http://arxiv.org/abs/2609.40222v1
- Date: Wed, 30 Sep 2026 17:27:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.180553
- Title: LOCI: Spatial Linear Memory for Streaming World Models
- Title(参考訳): LOCI:世界モデルストリーミングのための空間線形メモリ
- Abstract要約: カメラが以前に観察された領域を再検討する場合、ビデオワールドモデルは以前あった領域を再現するべきである。
キーバリューキャッシュはビジュアルディテールを保ちながらビデオ長で成長する; 再帰メモリはコンパクトだが、履歴を固定サイズに圧縮する。
両表現を格納するハイブリッド空間メモリアーキテクチャであるLOCIを紹介する。
- 参考スコア(独自算出の注目度): 6.207341594848763
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When a camera revisits a previously observed region, a video world model should reproduce what was there before. This requires both remembering past observations and retrieving the right one for the current viewpoint. Key-value caches preserve visual detail but grow with video length; recurrent memory is compact but compresses history into a fixed-size state, so individual past observations are no longer directly accessible. We introduce LOCI, a hybrid spatial-memory architecture that keeps both representations. In half of the transformer blocks, main attention keeps a key-value cache of past observations; in the other half, it is restricted to the current chunk and complemented by a recurrent linear-attention memory whose reads and writes are conditioned on projective camera geometry, so viewpoint enters both memory addressing and stored content. Recurrent readouts flow into subsequent cache-backed blocks and supply their queries with accumulated scene context. On the public MIND memory benchmark and on held-out recorded trajectories, LOCI reproduces revisited content more faithfully than representative world models and a same-recipe full-softmax model; with full history, it lowers peak memory at equal length by about 30% relative to full softmax. With a bounded bank of retained observations, it streams long videos at constant memory and remains more faithful than full softmax under the same budget.
- Abstract(参考訳): カメラが以前に観察された領域を再検討する場合、ビデオワールドモデルは以前あった領域を再現するべきである。
これは過去の観察を思い出すことと、現在の視点で正しいものを取得することの両方を必要とする。
キーバリューキャッシュはビジュアルディテールを保持するが、ビデオ長とともに成長する。再帰メモリはコンパクトだが、履歴を固定サイズの状態に圧縮するので、個々の過去の観測は直接アクセスできない。
両表現を格納するハイブリッド空間メモリアーキテクチャであるLOCIを紹介する。
コンバータブロックの半分では、メインアテンションは過去の観測のキー値キャッシュを保持し、残りの半分では現在のチャンクに制限され、リカレントなリニアアテンションメモリによって補完される。
リカレント読み出しは、その後のキャッシュバックブロックに流れ、蓄積されたシーンコンテキストでクエリを供給します。
パブリックなMINDメモリベンチマークと記録されたトラジェクトリでは、LOCIは、代表的世界モデルや同じレシピのフルソフトマックスモデルよりも忠実に再検討されたコンテンツを再現し、完全な歴史を持つと、ピークメモリをフルソフトマックスと比較して約30%下げる。
長いビデオを一定の記憶でストリーミングし、同じ予算の下では完全なソフトマックスよりも忠実だ。
関連論文リスト
- Honeycomb: Constant-Size Scene Memory Representation for Video World Models [19.478192594069455]
ビデオワールドモデルは、長期ビデオ生成時の一貫性を維持するためにシーンメモリを必要とする。
We introduced **Honeycomb*, a video world model built on HexMemory**, a compact low-rank representation that stored features in a fixed-size memory。
WorldScoreとRealEstate10Kの実験は、以前に観測された領域を再検討する際に、強力なビデオ生成品質と堅牢な一貫性を示す。
論文 参考訳(メタデータ) (2026-09-29T14:33:39Z) - Beyond Retrieval: Progressive Latent Memory Evolution for Streaming Video Understanding [64.34948094316685]
latentStreamは、ストリーミングメモリをストア・アンド・レトリーブから検索・インターナライズへシフトする、プログレッシブな潜伏型ワーキングメモリフレームワークです。
LatentStreamは、既存のオンラインおよびオフラインビデオベンチマークで、最先端の新たな結果を達成する。
論文 参考訳(メタデータ) (2026-09-03T17:28:14Z) - RECAP-Forcing: Retaining Content Appearances for Long Video Generation [37.756464872090596]
外観の新規性によって記憶を整理するRECAP-Forcingを提案する。
長いビデオは単なるフレームの連続ではなく、主題、オブジェクト、シーンの進化したキャストである。
ビデオが進化するにつれて、光フローベースのノベルティバンクは、新たに公開されたコンテンツを選択的に保持することで、同じ原理を拡張する。
論文 参考訳(メタデータ) (2026-08-27T06:24:59Z) - Addressable Memory for Video World Models [50.40232922140905]
インタラクティブなビデオワールドモデルにおける視覚的永続性について研究する。
長時間の視覚的永続性のためのトレーニング不要なメモリフレームワーク WorldTrace を提案する。
論文 参考訳(メタデータ) (2026-08-07T16:55:57Z) - FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion [59.207505503284715]
FadeMemは、歴史的なKVブロックを固定キャッシュ予算の下で時間階層に整理する。
新しい歴史はきめ細かいエントリとして挿入され、古い隣のエントリは徐々にマージされる。
実験では、既存の有界キャッシュ戦略よりも、被験者の一貫性、背景安定性、時間的コヒーレンスが改善された。
論文 参考訳(メタデータ) (2026-06-09T10:22:18Z) - Echo-Memory: A Controlled Study of Memory in Action World Models [58.77172260403133]
本研究では,行動条件付き世界モデルにおける記憶機構の制御に関する研究を行う。
既存のメモリ設計と比較するのは難しいのは、ゲインにはバックボーン、トレーニング、検索、評価の違いが絡み合っているからである。
我々はEcho-Memoryを使ってアクション・ツー・ビデオのインタフェースを修正し、生成元によって履歴が保存され読み込まれるかだけを変える。
論文 参考訳(メタデータ) (2026-06-08T17:54:10Z) - Attend Locally, Remember Linearly: Linear Attention as Cross-Frame Memory for Autoregressive Video Diffusion [61.57938553036056]
ARL2は、二次的なクロスフレームアテンションを固定サイズのリカレント状態に置き換えるハイブリッドアテンションモジュールである。
本研究では,フレーム内ソフトマックスブランチとフレーム間リカレント線形ブランチの2つに分割し,ストリームコンテキストの固定サイズ状態を維持する。
75%の層がハイブリッドリニアアテンションに置き換えられ、最大2.26ウォールクロックのスピードアップと54%のメモリ削減を実現した。
論文 参考訳(メタデータ) (2026-05-15T19:33:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。