論文の概要: What Helps Denoising Can Hurt Memory: Rethinking History in Long Video Generation
- arxiv url: http://arxiv.org/abs/2611.00937v1
- Date: Sat, 31 Oct 2026 13:39:46 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 20:18:21.585522
- Title: What Helps Denoising Can Hurt Memory: Rethinking History in Long Video Generation
- Title(参考訳): 長大なビデオ生成の歴史を振り返る
- Abstract要約: 自動回帰ビデオジェネレータは、時間的一貫性を維持するために歴史的なコンテキストを使用して、ブロック単位で長いビデオブロックを生成する。
歴史的文脈を認知の条件としてだけでなく、コミットのインプットとして研究する。
我々は,コミットをチェーンにまとめるトレーニングフリーのルールであるCommit Forcingを提案する。
- 参考スコア(独自算出の注目度): 25.36324079867329
- License:
- Abstract: Autoregressive video generators produce long videos block by block, using historical context to maintain temporal consistency. After denoising, a committing pass encodes each clean block into keys and values (KV) that later blocks read, and the same clean block can be encoded into different KV depending on the history it reads. We therefore study historical context not only as a condition for denoising but also as an input to committing. Older historical context that supports denoising can harm subsequent generation when read during committing. At fixed context size and temporal positions, older historical context lowers mean clip-to-clip Subject Consistency. Across 5 generator configurations supporting longer contexts, consistency rises, plateaus, and then declines as committing context expands. Motivated by these findings, we propose Commit Forcing, a training-free rule that organizes committing into a chain. During committing, each block reads only the preceding block's stored KV, so older historical context reaches new entries only through the chain. We apply this rule to 6 pretrained generators. On 60-second VBench, Commit Forcing improves Quality and Total on all 6 generators, by up to 1.27 Quality points and 1.10 Total points. Long-range consistency gains extend to 240-second videos. In a blinded comparison on 120-second LongLive videos, Commit Forcing achieves win rates of 83.5% for subject and scene consistency and 82.9% for overall preference against the base generator, excluding ties.
- Abstract(参考訳): 自動回帰ビデオジェネレータは、時間的一貫性を維持するために歴史的なコンテキストを使用して、ブロック単位で長いビデオブロックを生成する。
復調後、コミットパスは各クリーンブロックをキーと値(KV)にエンコードし、読み込んだ履歴に応じて同じクリーンブロックを別のKVにエンコードする。
したがって、歴史的文脈は、妄想の条件としてだけでなく、コミットのインプットとして研究する。
より古い歴史的文脈は、コミット中に読み込むと、その後の世代を害する可能性がある。
固定された文脈サイズと時間的位置において、古い歴史的文脈はクリップ・ツー・クリップ・サブジェクト・一貫性を低くする。
長いコンテキスト、一貫性の上昇、高原、そしてコミットコンテキストが拡大するにつれて減少する5つのジェネレータ構成。
これらの知見に触発されて、私たちは、チェーンへのコミットを組織化するトレーニング不要のルールであるCommit Forcingを提案する。
コミット中、各ブロックは前のブロックの格納されたKVのみを読み取るため、古い履歴コンテキストはチェーンを通してのみ新しいエントリに到達する。
我々はこのルールを6つの事前訓練された発電機に適用する。
60秒のVBenchでは、コミットフォースは6つのジェネレータのクオリティとトータルを最大1.27ポイント、トータル1.10ポイント改善する。
長距離の一貫性は240秒のビデオに拡張される。
120秒のLongLiveビデオの盲目比較では、Commit Forcingは、被写体とシーンの一貫性で83.5%、ベースジェネレータに対する全体的な嗜好で82.9%の勝利率を達成した。
関連論文リスト
- Recast the Past: Stable Long Video Generation with Full Context Memory [86.51692608974945]
ReCamは、歴史的潜伏者の局所的なブロックをプロジェクトにグループ化し、それらを高次元の隠れた空間に直接緩和する。
Transformerモデルは、ネイティブな自己アテンションを通じて結果のトークンを使用することを学び、完全な履歴へのブロックレベルアクセスを維持しながら、メモリトークン数を削減します。
評価手法のうち,ReCamは,R2M-Bench上でのVhorizon-Long総合スコア80.1と,競合する静的・シーンの再現性能を最高に達成している。
論文 参考訳(メタデータ) (2026-10-20T10:27:07Z) - Speculative Forcing for Efficient Autoregressive Video Generation [78.368797550302]
Speculative Forcingは、中間的クリーンな見積もりをドラフトとして扱うフレームワークである。
フルステップサンプリングの品質を維持しつつ、fpsを大幅に削減する。
LongLiveでは、4段階のジェネレータと1トークンあたり1.7のデノイングステップが一致し、41.7 fpsと37.8 fpsで1.5倍高速に動作する。
論文 参考訳(メタデータ) (2026-10-15T17:57:01Z) - DeCoPrune: Efficient KV-Cache Pruning for Autoregressive Video Diffusion via Denoising Consistency [32.36199443615815]
本稿では,キャッシュ圧縮をデノナイジング一貫性問題として扱う,トレーニング不要なDeCoPruneを紹介する。
DeCoPruneは、その中間的クリーン予測と最終的な復号化値との相違を利用して、各カレントチャンクトークンの復号化困難を測定する。
LingBot World v2の実験によると、DeCoPruneはKVの長距離リコールをほぼ完全に保存し、歴史的KVトークンの85%以上をプルーニングしている。
論文 参考訳(メタデータ) (2026-09-30T06:33:16Z) - Tether the Subject, Release the Scene: Query-Aware Memory Routing for Long-Horizon Autoregressive Video Generation [52.12619606640385]
本稿では,フリーズビデオジェネレータ用のクエリ対応メモリルータStreamingMemを紹介する。
TetherMemは、主題とシーンのクエリを分離し、地域と年齢の条件で履歴アクセスを変調する。
完全な30秒のビデオでは、背景、視点、シーンの状態の変化を保ちながら、被写体認識性と時間的連続性を維持する。
論文 参考訳(メタデータ) (2026-08-27T10:05:17Z) - Self Gradient Forcing: Native Long Video Extrapolation [60.00513917489133]
自己グラディエント強制は、歴史的文脈-段階的ギャップを回復する。
コードとモデルがリリースされ、自動回帰ビデオ生成の研究が進められる。
論文 参考訳(メタデータ) (2026-07-22T16:59:23Z) - DySink: Dynamic Frame Sinks for Autoregressive Long Video Generation [51.58559206569209]
我々は,コンパクトなメモリバンクを保守し,動的フレームシンクとして視覚的に関連する歴史的フレームを選択する検索ベースのフレームワークであるDySinkを提案する。
分長ビデオの実験では、DySinkは強いベースラインよりもダイナミックな度合いを一貫して改善し、同時に時間的品質も向上している。
論文 参考訳(メタデータ) (2026-05-20T11:01:01Z) - Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion [25.555611454522126]
textbfFocused Forcingは、生成フレームとヘッド次元の両方に沿ってキャッシュされた履歴に焦点を当てた、トレーニング不要なKV選択手法である。
生成されたフレームごとに、Focused Forcingは最も関連性があり、独特な歴史的フレームを保存する。
複数の自己回帰生成パラダイム全体で、Focused Forcingはトレーニングなしで最大$textbf1.48times$エンドツーエンドアクセラレーションを達成する。
論文 参考訳(メタデータ) (2026-05-18T12:58:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。