論文の概要: Learning-to-Memorize: Dynamic Context Management for Long-Horizon Autoregressive Video Generation
- arxiv url: http://arxiv.org/abs/2611.01858v1
- Date: Sun, 01 Nov 2026 12:49:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:38:19.35764
- Title: Learning-to-Memorize: Dynamic Context Management for Long-Horizon Autoregressive Video Generation
- Title（参考訳）: 学習から記憶へ:長距離自己回帰ビデオ生成のための動的文脈管理
- Abstract要約: Learning to Memorize (L2M)は、学習コンテキストメモリ管理フレームワークである。
それは、予測された重要性に従って、動的に保持し、退去し、歴史の枠組みを進化させる。
L2Mは、既存のベースラインに対する長時間ビデオ生成品質と時間的一貫性を改善している。
- 参考スコア（独自算出の注目度）: 23.08133344424576
- License:
- Abstract: Autoregressive video generation has achieved impressive results on short clips, yet generating long videos remains challenging due to error accumulation over extended horizons, where each predicted frame depends on potentially imperfect previous frames. Existing approaches typically rely on static context management strategies, such as sliding-window caches that discard early frames or fixed sink frames that permanently preserve initial content. These designs either lose critical long-range context or anchor generation to outdated information, which can lead to degraded fidelity, motion stagnation, and reduced diversity. In this paper, we propose Learning to Memorize (L2M), a learned context memory management framework that dynamically retains, evicts, and evolves historical frames according to predicted importance. The framework consists of an importance prediction router that estimates the relevance of each historical frame, degradation-aware training that improves robustness to noisy or corrupted context, and a dynamic memory initialization and evolution mechanism that updates long-term memory using exponential moving average (EMA) importance scores. This allows high-quality frames to replace stale anchors and enables memory to adapt naturally to scene evolution. Trained with a teacher-student distillation objective and sparsity regularization, L2M makes efficient use of a fixed KV-cache budget while preserving the most informative contextual information. Extensive experiments demonstrate that L2M improves long-horizon video generation quality and temporal consistency over existing baselines, providing a learned strategy for context memory management in long autoregressive video generation.
- Abstract（参考訳）: 自動回帰ビデオ生成は、短いクリップで印象的な結果を得たが、長いビデオの生成は、各予測フレームが潜在的に不完全な以前のフレームに依存しているような、水平線上のエラーの蓄積のために難しいままである。
既存のアプローチでは、初期フレームを捨てるスライディングウィンドウキャッシュや、初期コンテンツを永久に保存する固定されたシンクフレームなど、静的なコンテキスト管理戦略が一般的である。
これらの設計は、重要な長距離コンテキストを失うか、古い情報へのアンカー生成を失うか、劣化した忠実さ、動きの停滞、多様性の低下につながる可能性がある。
本稿では,予測された重要度に応じて履歴フレームを動的に保持し,削除し,進化させる学習コンテキスト記憶管理フレームワークであるL2Mを提案する。
フレームワークは、各履歴フレームの関連性を推定する重要予測ルータと、ノイズや破損したコンテキストに対する堅牢性を改善する劣化認識トレーニングと、指数移動平均(EMA)重要スコアを用いて長期記憶を更新する動的メモリ初期化と進化機構とから構成される。
これにより、高品質なフレームが古いアンカーを置き換えることができ、メモリがシーンの進化に自然に適応できる。
教師・学生の蒸留目標と空間正規化の訓練により、L2Mは、最も情報性の高い文脈情報を保存しつつ、固定KVキャッシュ予算を効果的に活用する。
広汎な実験により,L2Mは従来のベースラインに対する時間的整合性を向上し,長期自己回帰ビデオ生成における文脈記憶管理の学習戦略を提供する。
関連論文リスト
- CineMem: Attention-Aligned Fine-grained Memory Retrieval for Multi-Shot Long Video Generation [48.960736196535095]
自動回帰ビデオ生成は、長距離依存をモデル化するためにメモリ検索に依存する。
既存の方法は、フレームレベルでメモリ検索を行い、すべてのクエリトークンで同じ履歴コンテキストを共有する傾向がある。
我々はCineMemを紹介した。CineMemは、オンラインメモリ組織とクエリ適応検索を組み合わせた微粒化メモリ検索フレームワークである。
論文 参考訳（メタデータ） (2026-10-13T08:14:08Z) - The Past Frames the Future: Memory for Autoregressive Video Generation [180.54347159008623]
本稿では,ARビデオ生成における記憶機構の体系的,包括的レビューを行う。
我々は、外部ARステップにまたがる永続的な履歴情報として、メモリを運用的に定式化する。
本稿では,信頼性の高いメモリ条件のビデオ生成システムを構築するための構造的基盤を確立する。
論文 参考訳（メタデータ） (2026-09-23T17:54:52Z) - RECAP-Forcing: Retaining Content Appearances for Long Video Generation [37.756464872090596]
外観の新規性によって記憶を整理するRECAP-Forcingを提案する。
長いビデオは単なるフレームの連続ではなく、主題、オブジェクト、シーンの進化したキャストである。
ビデオが進化するにつれて、光フローベースのノベルティバンクは、新たに公開されたコンテンツを選択的に保持することで、同じ原理を拡張する。
論文 参考訳（メタデータ） (2026-08-27T06:24:59Z) - Online Neural Space Time Memory for Dynamic Novel View Synthesis [23.462185130690447]
テストタイムトレーニング(TTT)は強力なメモリメカニズムを提供する。
標準モデルは、動的シーンの運動の変化に対応するために、各フレームで勾配ベースのメモリ更新を義務付ける。
そこで本手法では,動的人体動作の場面におけるリアルタイム,最先端の演奏と,微細なオンライン記憶の再現を実証する。
論文 参考訳（メタデータ） (2026-07-16T17:58:18Z) - Teaching Video Generators to Remember: Eliciting Dynamic Memory for Out-of-Sight State Evolution [25.63670341165374]
ビデオモデルは、証拠が保存されていないときに進化する状態を維持すべきであるが、現在のジェネレータは割り込み時に隠れた状態を凍結することが多い。
本稿では,メモリ指向データ,イベント認識トレーニング,キャッシュ型適応による動的メモリ動作を実現するフレームワークであるReMindを紹介する。
論文 参考訳（メタデータ） (2026-05-25T01:30:41Z) - DySink: Dynamic Frame Sinks for Autoregressive Long Video Generation [51.58559206569209]
我々は,コンパクトなメモリバンクを保守し,動的フレームシンクとして視覚的に関連する歴史的フレームを選択する検索ベースのフレームワークであるDySinkを提案する。
分長ビデオの実験では、DySinkは強いベースラインよりもダイナミックな度合いを一貫して改善し、同時に時間的品質も向上している。
論文 参考訳（メタデータ） (2026-05-20T11:01:01Z) - Learning How and What to Memorize: Cognition-Inspired Two-Stage Optimization for Evolving Memory [53.8372503928207]
大規模言語モデル(LLM)エージェントは、一貫したパーソナライゼーションのために長期のユーザメモリを必要とする。
既存のメモリシステムは、主に静的で手作りの更新ルールに依存している。
MemCoEは認知にインスパイアされた2段階最適化フレームワークで、どのようにメモリを整理し、どの情報を更新すべきかを学ぶ。
論文 参考訳（メタデータ） (2026-05-01T14:45:20Z) - Relax Forcing: Relaxed KV-Memory for Consistent Long Video Generation [73.84423888025171]
オートレグレッシブ(AR)ビデオ拡散は,近年,長大なビデオ生成において有望なパラダイムとして浮上している。
時間的劣化が進行しているため, 生成から微小スケールの地平線への延長は依然として困難であることを示す。
本稿では,AR拡散のための時間記憶機構であるRelax Forcingを紹介する。
論文 参考訳（メタデータ） (2026-03-22T18:59:24Z) - Stable Hadamard Memory: Revitalizing Memory-Augmented Agents for Reinforcement Learning [64.93848182403116]
現在のディープラーニングメモリモデルは、部分的に観察可能で長期にわたる強化学習環境で苦労している。
本稿では,強化学習エージェントのための新しい記憶モデルであるStable Hadamard Memoryを紹介する。
我々の手法は、部分的に観測可能なベンチマークに挑戦する上で、最先端のメモリベースの手法よりも大幅に優れています。
論文 参考訳（メタデータ） (2024-10-14T03:50:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。