論文の概要: Clean Forcing: Drift-Resistant Autoregressive Video Diffusion with a Frozen Base
- arxiv url: http://arxiv.org/abs/2610.25634v1
- Date: Mon, 19 Oct 2026 01:25:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:06:10.198931
- Title: Clean Forcing: Drift-Resistant Autoregressive Video Diffusion with a Frozen Base
- Title(参考訳): クリーニングフォース:凍ったベースによるドリフト抵抗性自己回帰型ビデオ拡散
- Abstract要約: 自己回帰(AR)ビデオ拡散モデルでは、任意の長さのストリーミングビデオを生成する。
彼らは露光バイアスに悩まされ、クリーンなコンテキストでトレーニングされたモデルは、自身の不完全な出力から継続され、エラーは、数秒以内に品質が崩壊するまで複雑になる(ドリフト)。
- 参考スコア(独自算出の注目度): 37.35568561545772
- License:
- Abstract: Autoregressive (AR) video diffusion models generate streaming video of arbitrary length by conditioning each new chunk of frames on those already generated. However, they suffer from exposure bias, where a model trained on clean context must continue from its own imperfect outputs, and errors compound until quality collapses within seconds (drift). Existing methods either require cluster-scale base retraining, apply training-free inference corrections with inconsistent results, or train frozen-base correctors for sampling and cache errors. We instead find that drift is largely deterministic and therefore learnable, as holding the noisy state fixed while varying only the history reveals a counterfactual velocity gap that is ~95% systematic across noise seeds. Based on this observation, we introduce Clean Forcing, which trains a 5.9M-parameter LoRA corrector on the frozen base model to regress this gap, with a closed-loop stage that adds DAgger-style aggregation and a drift-contraction objective to expose the corrector to its own rollouts. Because the clean histories can be the base model's own single-shot generations, training needs no real videos, and the merged corrector adds no inference cost. In 50 s text-to-video generation, Clean Forcing reduces Δ-drift from +11.3 to +1.65 without real video and to -0.16 with 40 real clips, improving on the best published result of +3.57 with over 150x less data. Extensive experiments demonstrate that Clean Forcing outperforms prior methods in aesthetic quality and data efficiency with reduced drift for long-horizon video generation.
- Abstract(参考訳): 自己回帰(AR)ビデオ拡散モデルでは、任意の長さのストリーミングビデオを生成する。
しかし、彼らは露光バイアスに悩まされ、クリーンなコンテキストでトレーニングされたモデルは、自身の不完全な出力から継続し、品質が数秒以内に崩壊するまでエラーは複雑になる(ドリフト)。
既存の方法は、クラスタスケールのベースリトレーニングを必要とし、トレーニング不要な推論修正を一貫性のない結果に適用するか、あるいはサンプリングとキャッシュエラーのためのフリーズベース修正をトレーニングする。
その代わりに、ドリフトは決定論的であり、ノイズの種によって95%程度体系化された反ファクト的な速度ギャップが示されながらノイズ状態が固定されているため、学習可能であることが判明した。
本報告では,凍結ベースモデル上に5.9MパラメータLORA補正器をトレーニングし,このギャップを緩和するクリーンフォースを導入し,DAggerスタイルのアグリゲーションを付加した閉ループステージと,そのロールアウトに修正器を露出するためのドリフト・コントラクションを付加した。
クリーンな履歴はベースモデル独自の単一ショット世代である可能性があるため、トレーニングには実際のビデオは必要とせず、マージされた修正器は推論コストを加算しない。
50秒間のテキスト・ビデオ生成では、Cure Forcing は Δ-drift を実際のビデオなしで +11.3 から +1.65 に減らし、40個の実クリップで -0.16 に減らし、150倍少ないデータで +3.57 の最高の結果を改善する。
広汎な実験により、Create Forcingは、長い水平ビデオ生成のためのドリフトを低減した美的品質とデータ効率において、先行手法よりも優れた性能を示すことが示された。
関連論文リスト
- From Scores to Samples: Elastic Forcing for Autoregressive Video Generation [22.177127971362413]
分散マッチング蒸留(DMD)を利用した数ステップ自動回帰ビデオ生成
我々は、参照ビデオから直接ロールアウト分布を学習し、ポストトレーニング中の両方のスコアモデルを排除した。
我々のフレームワークは、凍結した自己教師付きビデオ表現空間における最大平均不一致(MMD)を最小限に抑える。
論文 参考訳(メタデータ) (2026-09-28T16:00:49Z) - End-to-End Training for Autoregressive Video Diffusion via Self-Resampling [63.84672807009907]
自己回帰ビデオ拡散モデルは、世界シミュレーションの可能性を保っているが、列車テストミスマッチに起因する露出バイアスに弱い。
教師なしのフレームワークであるResampling Forcingを導入し、スクラッチから大規模まで自動回帰ビデオモデルのトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-12-17T18:53:29Z) - BAgger: Backwards Aggregation for Mitigating Drift in Autoregressive Video Diffusion Models [50.986189632485285]
モデル自身のロールアウトから補正軌道を構築する自己教師型スキームであるバックワードアグリゲーション(BAgger)を導入する。
数段階の蒸留と分配整合損失に依存する従来のアプローチとは異なり、BAggerは標準的なスコアやフローマッチングの目的を持つ列車である。
因果拡散変換器でBAggerをインスタンス化し、テキスト・ツー・ビデオ、ビデオ・エクステンション、マルチプロンプト・ジェネレーションで評価する。
論文 参考訳(メタデータ) (2025-12-12T23:02:02Z) - Stable Video Infinity: Infinite-Length Video Generation with Error Recycling [76.91310169118408]
本研究では、高時間一貫性、可視的シーン遷移、制御可能なストリーミングストーリーラインを有する無限長ビデオを生成することができる安定ビデオインフィニティ(SVI)を提案する。
SVIにはError-Recycling Fine-Tuningが組み込まれており、これはDiffusion Transformerの自己生成エラーをスーパーバイザのプロンプトにリサイクルする、新しいタイプの効率的なトレーニングである。
我々は、一貫性、創造性、条件設定を含む3つのベンチマークでSVIを評価し、その汎用性と最先端の役割を徹底的に検証した。
論文 参考訳(メタデータ) (2025-10-10T09:45:46Z) - Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion [67.94300151774085]
本稿では,自己回帰ビデオ拡散モデルのための新しい訓練パラダイムであるSelf Forcingを紹介する。
露光バイアスの長年の問題に対処し、地道的な文脈で訓練されたモデルは、自身の不完全な出力で条件付けられたシーケンスを生成する必要がある。
論文 参考訳(メタデータ) (2025-06-09T17:59:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。