論文の概要: WorldPager: Zero-Stall Tiered Memory for Long-Horizon World Models on a Single Consumer GPU
- arxiv url: http://arxiv.org/abs/2610.35529v1
- Date: Mon, 26 Oct 2026 14:44:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:14.035806
- Title: WorldPager: Zero-Stall Tiered Memory for Long-Horizon World Models on a Single Consumer GPU
- Title(参考訳): WorldPager: 単一コンシューマGPU上での長軸世界モデルのためのゼロステージティアードメモリ
- Abstract要約: インタラクティブな世界モデルは、過去のチャンクのKVを検索メモリとして保持し、再検討された場所が一貫性を保つ。
トレーニングなしの位置ハンドリングでは、ストールがゼロで、ホストメモリが一定で、毎秒約9.5フレームで連続して37.5分のビデオを生成する。
封印されたテストセットでは、int4ストレージは測定可能な品質損失を示さない。
- 参考スコア(独自算出の注目度): 1.0544348897559772
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Interactive world models keep the KV of past chunks as retrieval memory so that revisited places stay consistent. On a single consumer machine (one RTX 4090, 32 GiB of host memory, one NVMe SSD), long sessions with such memory hit two walls. The first is capacity: the KV of Matrix-Game 2.0 exhausts host memory after 45 seconds of video in bf16 and after 2.8 minutes in int4. The second is the model's positional horizon of 4.3 minutes. We show that this memory is capacity-bound rather than bandwidth-bound and that its access set is known before compute, because the camera pose is an input. An analytical model built on these observations predicts spill points to within one chunk and classifies zero versus non-zero stalls correctly on held-out configurations. Guided by it, WorldPager stores int4 KV in a GPU/DRAM/NVMe hierarchy instead of recomputing it, prefetches each chunk's memory from the extrapolated pose, never waits on a miss, and writes back in the background; to our knowledge, it is the first to place the KV memory of an interactive world model on an NVMe tier with zero-stall prefetching. With training-free position handling, it generates 37.5 minutes of video continuously with zero stalls and constant host memory, at about 9.5 frames per second. On a sealed test set, int4 storage shows no measurable quality loss; on long-gap revisits it lowers image quality by about one MUSIQ point.
- Abstract(参考訳): インタラクティブな世界モデルは、過去のチャンクのKVを検索メモリとして保持し、再検討された場所が一貫性を保つ。
1つのコンシューママシン(1つのRTX 4090、32 GiBのホストメモリ、1つのNVMe SSD)では、そのようなメモリを持つ長いセッションが2つの壁にぶつかった。
1つは容量で、Matrix-Game 2.0のKVはbf16で45秒、int4で2.8分後にホストメモリを消費する。
2つ目は、モデルの位置の地平線が4.3分である。
このメモリは帯域幅よりもキャパシティバウンドであることが示され、カメラのポーズが入力であるため、そのアクセスセットは計算の前に知られている。
これらの観測に基づいて構築された解析モデルは、1チャンク内におけるこぼれ点を予測し、ホールドアウト構成でゼロとノンゼロのストールを正しく分類する。
WorldPagerは、GPU/DRAM/NVMe階層にInt4 KVを格納し、それを再計算する代わりに、外挿されたポーズから各チャンクのメモリをプリフェットし、ミスを待ち、バックグラウンドに書き込みます。
トレーニングなしの位置ハンドリングでは、ストールがゼロで、ホストメモリが一定で、毎秒約9.5フレームで連続して37.5分のビデオを生成する。
封印されたテストセットでは、int4ストレージは測定可能な品質損失を示さない。
関連論文リスト
- Recast the Past: Stable Long Video Generation with Full Context Memory [86.51692608974945]
ReCamは、歴史的潜伏者の局所的なブロックをプロジェクトにグループ化し、それらを高次元の隠れた空間に直接緩和する。
Transformerモデルは、ネイティブな自己アテンションを通じて結果のトークンを使用することを学び、完全な履歴へのブロックレベルアクセスを維持しながら、メモリトークン数を削減します。
評価手法のうち,ReCamは,R2M-Bench上でのVhorizon-Long総合スコア80.1と,競合する静的・シーンの再現性能を最高に達成している。
論文 参考訳(メタデータ) (2026-10-20T10:27:07Z) - World-T3: Test-Time Training as Persistent Memory for Real-Time Video World Models [23.209945433503382]
本稿では、過去の観測を専用モデルパラメータに集約するテストタイムトレーニングメモリを備えた、カメラ制御ビデオワールドモデルであるWorld-T3を紹介する。
我々のTTメモリは、カメラのポーズによる高速な状態から以前に観測されたシーンの特徴を読み出し、一定のストレージとステップごとの計算で一貫した生成を可能にする。
長期のリビジットベンチマークでは、World-T3はPSNRを13.52から18.31dBに引き上げ、絶対回転誤差を3.344から1.075に減らした。
論文 参考訳(メタデータ) (2026-10-12T21:52:46Z) - LOCI: Spatial Linear Memory for Streaming World Models [6.207341594848763]
カメラが以前に観察された領域を再検討する場合、ビデオワールドモデルは以前あった領域を再現するべきである。
キーバリューキャッシュはビジュアルディテールを保ちながらビデオ長で成長する; 再帰メモリはコンパクトだが、履歴を固定サイズに圧縮する。
両表現を格納するハイブリッド空間メモリアーキテクチャであるLOCIを紹介する。
論文 参考訳(メタデータ) (2026-09-30T17:27:06Z) - Addressable Memory for Video World Models [50.40232922140905]
インタラクティブなビデオワールドモデルにおける視覚的永続性について研究する。
長時間の視覚的永続性のためのトレーニング不要なメモリフレームワーク WorldTrace を提案する。
論文 参考訳(メタデータ) (2026-08-07T16:55:57Z) - Echo-Memory: A Controlled Study of Memory in Action World Models [58.77172260403133]
本研究では,行動条件付き世界モデルにおける記憶機構の制御に関する研究を行う。
既存のメモリ設計と比較するのは難しいのは、ゲインにはバックボーン、トレーニング、検索、評価の違いが絡み合っているからである。
我々はEcho-Memoryを使ってアクション・ツー・ビデオのインタフェースを修正し、生成元によって履歴が保存され読み込まれるかだけを変える。
論文 参考訳(メタデータ) (2026-06-08T17:54:10Z) - FlashMemory-DeepSeek-V4: Lightning Index Ultra-Long Context via Lookahead Sparse Attention [77.12062766962815]
Lookahead Sparse Attention (LSA)は、DeepSeek-V4アーキテクチャ上に構築されたNeural Memory Indexerを利用している。
このアーキテクチャをバックボーンフリーの非結合なトレーニング戦略でインスタンス化する。
FM-DS-V4は、物理KVキャッシュのフットプリントを、フルコンテキストベースラインのわずか13.5%まで圧縮することを示した。
論文 参考訳(メタデータ) (2026-06-08T06:25:54Z) - WorldKV: Efficient World Memory with World Retrieval and Compression [56.57011243315561]
我々は、World RetrievalとWorld Compressionの2つのコンポーネントを備えた、トレーニング不要のフレームワークであるWorldKVを提案する。
Matrix-Game-2.0とLingBot-World-Fastでは、WorldKVはスループットの約2倍のフルKVメモリ忠実度に対応し、微調整なしでメモリトレーニングされたベースラインと競合する。
論文 参考訳(メタデータ) (2026-05-21T16:55:04Z) - KV Cache Quantization for Self-Forcing Video Generation: A 33-Method Empirical Study [0.0]
本稿では, Wan2.1 ベースの自己強制スタック上での自己強制ビデオ生成のための KV-cache 圧縮に関する総合的研究を行う。
本研究は,33種類の量子化とキャッシュ・ポリティクス,610個のプロンプトレベルの観測,63個のベンチマークレベルの要約について検討した。
我々は,ピークVRAM,ランタイム,圧縮率,VBench画像品質,BF16参照忠実度(SSIM,LPIPS,PSNR),端末ドリフトを共同評価した。
論文 参考訳(メタデータ) (2026-03-29T01:35:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。