論文の概要: Memory Forcing: Attendable Mid-Horizon History for Streaming Video Generation
- arxiv url: http://arxiv.org/abs/2610.11756v2
- Date: Sun, 11 Oct 2026 15:13:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-14 23:39:49.789613
- Title: Memory Forcing: Attendable Mid-Horizon History for Streaming Video Generation
- Title(参考訳): メモリの強制: ストリーミングビデオ生成のための中央水平履歴の注意
- Abstract要約: キャッシュサイズを増大させることなく履歴を保存できる数ステップのストリーミング手法であるMemory Forcingを提案する。
アーカイブ・アンド・ワーキングバンクはキャッシュをシンク、アーカイブ、ワーキングリージョンに分割し、様々な中間イベントと最近のメモリでの動作を保持する。
1.3Bでは、メモリフォーシングは長いクリップを導き、4つの長さ全てを報告するメソッドの中で5sから60sまでの最小のドロップを示し、休息と復帰を通じて主題とシーンを保存する。
同じデザインはWan2.2 5Bにスケールし、より物理的に可視でリアルでダイナミックなビデオを生み出します。
- 参考スコア(独自算出の注目度): 44.702164390181366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoregressive video diffusion enables causal video streaming without a bidirectional pass over the full clip, but existing few-step systems usually retain only the opening and most recent frames in a fixed-size KV cache. Once an event leaves this window, later frames can no longer attend to it, a failure we term mid-horizon forgetting. We present Memory Forcing, a few-step streaming method that preserves this missing history without increasing the cache size. Its Archive \& Working Banks partition the cache into sink, archive, and working regions, retaining diverse intermediate events alongside recent motion under fixed memory. Because absolute temporal indices drift outside the training range, Bank-aware RoPE reassigns indices at attention time so each bank remains distinguishable. At 1.3B, Memory Forcing leads on longer clips, shows the smallest drop from 5s to 60s among methods reporting all four lengths, and preserves subjects and scenes through leave-and-return. The same design scales to Wan2.2 5B, producing more physically plausible, realistic, and dynamic videos and, to our knowledge, the first public 5B model on this forcing line.
- Abstract(参考訳): 自動回帰ビデオ拡散は、全クリップを双方向に通過することなく、因果ビデオストリーミングを可能にするが、既存の数ステップシステムは、通常、固定サイズのKVキャッシュにおいて、オープニングと最新のフレームのみを保持する。
イベントがこのウィンドウを去ると、後続のフレームはそれに参加することができない。
キャッシュサイズを増大させることなく、この欠落した履歴を保存する数ステップのストリーミング手法であるMemory Forcingを提案する。
そのArchive \& Working Banksはキャッシュをシンク、アーカイブ、ワーキングリージョンに分割し、様々な中間イベントを保持する。
絶対時間指数はトレーニング範囲外に漂流するため、バンク・アウェアのRoPEは、各銀行が区別可能なように、注意時にインデックスを再割り当てする。
1.3Bでは、メモリフォーシングは長いクリップを導き、4つの長さ全てを報告するメソッドの中で5sから60sまでの最小のドロップを示し、休息と復帰を通じて主題とシーンを保存する。
同じ設計はWan2.2 5Bにスケールし、より物理的に可塑性でリアルでダイナミックなビデオを生成する。
関連論文リスト
- LOCI: Spatial Linear Memory for Streaming World Models [6.207341594848763]
カメラが以前に観察された領域を再検討する場合、ビデオワールドモデルは以前あった領域を再現するべきである。
キーバリューキャッシュはビジュアルディテールを保ちながらビデオ長で成長する; 再帰メモリはコンパクトだが、履歴を固定サイズに圧縮する。
両表現を格納するハイブリッド空間メモリアーキテクチャであるLOCIを紹介する。
論文 参考訳(メタデータ) (2026-09-30T17:27:06Z) - Addressable Memory for Video World Models [50.40232922140905]
インタラクティブなビデオワールドモデルにおける視覚的永続性について研究する。
長時間の視覚的永続性のためのトレーニング不要なメモリフレームワーク WorldTrace を提案する。
論文 参考訳(メタデータ) (2026-08-07T16:55:57Z) - ReflectWorld-MM: An Entity-Oriented Multimodal Memory System for Open-Ended Video Streams [8.099856183300002]
オープンなビデオストリームのためのエンティティ指向マルチモーダルメモリシステムであるReflectWorld-MMを提案する。
これは3つの部分から構成されており、第1の部分は知覚フロントエンドであり、オーディオ視覚ストリームを、境界付き短期記憶下での実体分解された観察に変換する。
2つ目は階層的な長期記憶であり、人間の記憶理論に基礎を置いており、多スケールのエピソード記憶、進化するエンティティ中心のセマンティックメモリ、手続き記憶を結合している。
論文 参考訳(メタデータ) (2026-07-06T13:17:53Z) - FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion [59.207505503284715]
FadeMemは、歴史的なKVブロックを固定キャッシュ予算の下で時間階層に整理する。
新しい歴史はきめ細かいエントリとして挿入され、古い隣のエントリは徐々にマージされる。
実験では、既存の有界キャッシュ戦略よりも、被験者の一貫性、背景安定性、時間的コヒーレンスが改善された。
論文 参考訳(メタデータ) (2026-06-09T10:22:18Z) - Echo-Infinity: Learning Evolving Memory for Real-Time Infinite Video Generation [59.01737077739414]
本稿では,リアルタイム無限ビデオ生成に向けた自動回帰(AR)フレームワークであるEcho Infinityを紹介する。
学習可能な進化可能なメモリを使用して、任意の長さの履歴を動的にフィルタリングし、抽象化し、圧縮する。
最先端のパフォーマンスを実現し、私たちの知る限り、24時間(>1.3M)のリアルタイムロールアウトを初めて実現しています。
論文 参考訳(メタデータ) (2026-06-03T07:09:01Z) - Attend Locally, Remember Linearly: Linear Attention as Cross-Frame Memory for Autoregressive Video Diffusion [61.57938553036056]
ARL2は、二次的なクロスフレームアテンションを固定サイズのリカレント状態に置き換えるハイブリッドアテンションモジュールである。
本研究では,フレーム内ソフトマックスブランチとフレーム間リカレント線形ブランチの2つに分割し,ストリームコンテキストの固定サイズ状態を維持する。
75%の層がハイブリッドリニアアテンションに置き換えられ、最大2.26ウォールクロックのスピードアップと54%のメモリ削減を実現した。
論文 参考訳(メタデータ) (2026-05-15T19:33:45Z) - MemRoPE: Training-Free Infinite Video Generation via Evolving Memory Tokens [34.228121359393775]
2つの共同設計コンポーネントを備えたトレーニングフリーフレームワークであるMemRoPEを紹介した。
オンラインRoPEインデックスは、回転しないキーをキャッシュし、注意時に位置埋め込みを動的に適用する。
MemRoPEは、時間的コヒーレンス、視覚的忠実度、主観的一貫性において、毎分から1時間単位で既存の手法より優れている。
論文 参考訳(メタデータ) (2026-03-12T23:14:16Z) - PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。
効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
論文 参考訳(メタデータ) (2026-01-07T19:51:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。