論文の概要: Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation
- arxiv url: http://arxiv.org/abs/2605.15141v1
- Date: Thu, 14 May 2026 17:46:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.994937
- Title: Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation
- Title(参考訳): Causal Forcing++:リアルタイムインタラクティブビデオ生成のためのスケーラブルなFew-Step自己回帰拡散蒸留
- Authors: Min Zhao, Hongzhou Zhu, Kaiwen Zheng, Zihan Zhou, Bokai Yan, Xinyuan Li, Xiao Yang, Chongxuan Li, Jun Zhu,
- Abstract要約: リアルタイムのインタラクティブなビデオ生成には、低レイテンシ、ストリーミング、コントロール可能なロールアウトが必要である。
本稿では,フレームワイドの自己回帰を1~2ステップのサンプリングで行うという,よりアグレッシブな設定について検討する。
原理的かつスケーラブルなパイプラインである textbfCausal Forcing++ を提案する。
- 参考スコア(独自算出の注目度): 50.55853275866995
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-time interactive video generation requires low-latency, streaming, and controllable rollout. Existing autoregressive (AR) diffusion distillation methods have achieved strong results in the chunk-wise 4-step regime by distilling bidirectional base models into few-step AR students, but they remain limited by coarse response granularity and non-negligible sampling latency. In this paper, we study a more aggressive setting: frame-wise autoregression with only 1--2 sampling steps. In this regime, we identify the initialization of a few-step AR student as the key bottleneck: existing strategies are either target-misaligned, incapable of few-step generation, or too costly to scale. We propose \textbf{Causal Forcing++}, a principled and scalable pipeline that uses \emph{causal consistency distillation} (causal CD) for few-step AR initialization. The core idea is that causal CD learns the same AR-conditional flow map as causal ODE distillation, but obtains supervision from a single online teacher ODE step between adjacent timesteps, avoiding the need to precompute and store full PF-ODE trajectories. This makes the initialization both more efficient and easier to optimize. The resulting pipeline, \ours, surpasses the SOTA 4-step chunk-wise Causal Forcing under the \textit{\textbf{frame-wise 2-step setting}} by 0.1 in VBench Total, 0.3 in VBench Quality, and 0.335 in VisionReward, while reducing first-frame latency by 50\% and Stage 2 training cost by $\sim$$4\times$. We further extend the pipeline to action-conditioned world model generation in the spirit of Genie3. Project Page: https://github.com/thu-ml/Causal-Forcing and https://github.com/shengshu-ai/minWM .
- Abstract(参考訳): リアルタイムのインタラクティブなビデオ生成には、低レイテンシ、ストリーミング、コントロール可能なロールアウトが必要である。
既存の自己回帰(AR)拡散蒸留法は, 2方向ベースモデルを数段階のAR学生に蒸留することで, チャンクワイド4段階体制において強い成果を上げてきたが, 粗い応答粒度と非無視サンプリング遅延によって制限されている。
本稿では, フレームワイドの自己回帰を1~2段階のサンプリングステップで行うことで, よりアグレッシブな設定について検討する。
この体制では、数ステップのAR学生の初期化が重要なボトルネックとして認識される:既存の戦略は、ターゲットミスアライメントであり、数ステップの生成ができないか、スケールするにはコストがかかりすぎる。
我々は,数ステップのAR初期化に \emph{causal consistency distillation} (causal CD) を用いた,原理的かつスケーラブルなパイプラインである \textbf{Causal Forcing++} を提案する。
中心となる考え方は、因果的CDは因果的ODE蒸留と同じAR条件のフローマップを学習するが、隣接する時間ステップ間の1つのオンライン教師ODEステップから監督を受け、完全なPF-ODE軌道を前処理し保存する必要がない。
これにより、初期化はより効率的で、最適化も簡単になります。
VBench Totalで0.1ドル、VBench Qualityで0.3ドル、VisionRewardで0.335ドル、最初のフレームのレイテンシで50\%、Stage 2のトレーニングコストで$\sim$$4\times$に下げた。
我々はさらに、Genie3の精神で行動条件付き世界モデル生成にパイプラインを拡張します。
Project Page: https://github.com/thu-ml/Causal-Forcing and https://github.com/shengshu-ai/minWM
関連論文リスト
- AnyFlow: Any-Step Video Diffusion Model with On-Policy Flow Map Distillation [70.80207977907908]
フローマップをベースとした,最初のノンステップビデオ拡散蒸留フレームワークであるAnyFlowを紹介した。
我々は、AnyFlowがいくつかの段階において、パフォーマンスの一致を達成するか、一貫性ベースの結果を上回ることを示す。
論文 参考訳(メタデータ) (2026-05-13T16:06:34Z) - Self-Adversarial One Step Generation via Condition Shifting [11.426065945265647]
APEXは、フローモデルから不均一に抽出された逆補正信号のフレームワークである。
私たちの0.6BモデルはFLUX-Schnell 12B(20$times$ more parameters)を1ステップ品質で上回ります。
Qwen-Image 20BのLoRAチューニングにより、APEXは6時間でNFE=1のGenEvalスコア0.89に達し、最初の50ステップの教師(0.87)を超え、15.33$times$推論スピードアップを提供する。
論文 参考訳(メタデータ) (2026-04-14T05:54:33Z) - Causal Forcing: Autoregressive Diffusion Distillation Done Right for High-Quality Real-Time Interactive Video Generation [47.295642561210606]
現在の方法では、事前訓練された双方向ビデオ拡散モデルを数段階自己回帰(AR)モデルに蒸留する。
ODEのためのAR教師を用いたCausal Forcingを提案する。
私たちのメソッドは、すべてのメトリクスですべてのベースラインを上回ります。
論文 参考訳(メタデータ) (2026-02-02T15:19:22Z) - From Slow Bidirectional to Fast Autoregressive Video Diffusion Models [48.35054927704544]
現在のビデオ拡散モデルは、印象的な生成品質を実現するが、双方向の注意依存のため、インタラクティブなアプリケーションに苦戦する。
この制限には、事前訓練された双方向拡散変換器を自己回帰変換器に適応させ、フレームをオンザフライで生成することで対処する。
我々のモデルは、VBench-Longベンチマークで84.27点のスコアを達成し、以前のすべてのビデオ生成モデルを上回った。
論文 参考訳(メタデータ) (2024-12-10T18:59:50Z) - Truncated Consistency Models [57.50243901368328]
トレーニング一貫性モデルは、PF ODE 軌道に沿ったすべての中間点を対応するエンドポイントにマッピングする学習を必要とする。
このトレーニングパラダイムが一貫性モデルの1ステップ生成性能を制限することを実証的に見出した。
整合性関数の新しいパラメータ化と2段階の訓練手順を提案し,時間外学習が崩壊することを防ぐ。
論文 参考訳(メタデータ) (2024-10-18T22:38:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。