論文の概要: Self-Aligned Forcing: Streaming Video Diffusion with Differentiable Noisy History
- arxiv url: http://arxiv.org/abs/2609.38114v1
- Date: Tue, 29 Sep 2026 17:49:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.809159
- Title: Self-Aligned Forcing: Streaming Video Diffusion with Differentiable Noisy History
- Title(参考訳): 自己調整型強制: ノイズ履歴の異なるビデオ拡散をストリーミングする
- Abstract要約: セルフアラインド・フォース(Self-Aligned Forcing, SAF)は、各ブロックの歴史とブロックのノイズレベルを調和させる訓練スキームである。
SAFは既存の方法の中で最も高いシングルGPUスループットを実現している。
実験では、視覚的品質と運動のバランスが良く、優れたロングホライゾン生成が示される。
- 参考スコア(独自算出の注目度): 53.725055224433056
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoregressive video diffusion enables interactive streaming generation, but suffers from error accumulation over long rollouts. Self-rollout training reduces exposure bias, yet finite rollouts leave long-range drift unresolved. We observe that the noise level of the history key-value (K/V) representations trades visual quality against motion, and that restoring gradients through the history aligns causal training far more closely with bidirectional training. Motivated by these observations, we introduce Self-Aligned Forcing (SAF), a training scheme that aligns the history of each block with the noise level of the block being denoised. Specifically, the history is the K/V produced by preceding blocks at the same denoising stage, so all blocks at a stage can be denoised in a single forward pass under a causal mask. This keeps the noisy history differentiable, allowing future losses to optimize how it is encoded. SAF therefore avoids a separate no-gradient rollout and per-block timestep-zero recaching, training up to 1.8x faster than prior methods with lower memory. At inference, SAF achieves the highest single-GPU throughput among existing methods and keeps one history bank per stage for a multi-GPU pipeline, reaching 49.1 FPS on 4 GPUs. Experiments show superior long-horizon generation with a better balance between visual quality and motion. Project page: https://anonymous.4open.science/w/self-aligned-forcing/.
- Abstract(参考訳): 自動回帰ビデオ拡散はインタラクティブなストリーミング生成を可能にするが、長時間のロールアウトでエラーの蓄積に悩まされる。
自己ロールアウトトレーニングは露光バイアスを低減するが、有限ロールアウトは長距離ドリフトを未解決のまま残す。
我々は,歴史キー値(K/V)表現のノイズレベルが視覚的品質と運動とを両立させ,歴史を通した勾配の回復が,双方向トレーニングとより密接な関係にあることを観察した。
これらの観測により,各ブロックの騒音レベルと各ブロックの歴史を一致させる訓練スキームであるSelf-Aligned Forcing (SAF)を導入した。
具体的には、前のブロックが生成したK/Vが同じデノナイジング段階にあるため、ステージ上のすべてのブロックは、因果マスクの下で単一のフォワードパスでデノナイズすることができる。
これにより、ノイズの多い履歴を識別し、将来の損失をエンコードする方法を最適化することができる。
したがって、SAFは分離した非段階的なロールアウトとブロックごとのタイムステップゼロのリリーチを回避し、より低いメモリを持つ以前の方法よりも最大1.8倍高速なトレーニングを行う。
SAFは既存の手法の中で最も高いシングルGPUスループットを達成し、マルチGPUパイプラインのステージ毎に1つの履歴バンクを保持し、4つのGPU上で49.1 FPSに達する。
実験では、視覚的品質と運動のバランスが良く、優れたロングホライゾン生成が示される。
プロジェクトページ:https://anonymous.4open.science/w/self-aligned-forcing/
関連論文リスト
- Salt++: Context-Aligned Post-Training for Few-Step Streaming Multimodal Generation [30.205869844299006]
ストリーミングオーディオ-ビデオ生成は因果モデリングとステップ蒸留の両方を必要とする。
トレーニング後の2段階のフレームワークであるSalt++で、これらの課題に対処します。
Salt++は、JavisBench上のOmniForcingよりも視覚的および運動的品質を57%、そして45%向上させる。
論文 参考訳(メタデータ) (2026-09-29T08:26:37Z) - Self Gradient Forcing: Native Long Video Extrapolation [60.00513917489133]
自己グラディエント強制は、歴史的文脈-段階的ギャップを回復する。
コードとモデルがリリースされ、自動回帰ビデオ生成の研究が進められる。
論文 参考訳(メタデータ) (2026-07-22T16:59:23Z) - OPSD-V: On-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators [68.69611976783243]
OPSD-Vは、数ステップの自己回帰(AR)ビデオ拡散モデルの訓練後の自己蒸留パラダイムである。
鍵となるアイデアは、トレーニング中の時間的文脈として実際の長時間ビデオデータを導入し、それを高密度な軌跡レベルの監視に使用することである。
実験では、視覚的品質、運動力学、VBenchLongスコアが一貫した改善を示している。
論文 参考訳(メタデータ) (2026-07-09T17:59:11Z) - CausalCine: Real-Time Autoregressive Generation for Multi-Shot Video Narratives [117.85963914353904]
CausalCineはインタラクティブな自動回帰フレームワークで、マルチショットビデオ生成をオンラインのディレクティブプロセスに変換する。
CausalCineはショット変更を因果的に生成し、動的プロンプトをオンザフライで受け付け、以前のショットを再生することなくコンテキストを再利用する。
論文 参考訳(メタデータ) (2026-05-12T17:59:51Z) - End-to-End Training for Autoregressive Video Diffusion via Self-Resampling [63.84672807009907]
自己回帰ビデオ拡散モデルは、世界シミュレーションの可能性を保っているが、列車テストミスマッチに起因する露出バイアスに弱い。
教師なしのフレームワークであるResampling Forcingを導入し、スクラッチから大規模まで自動回帰ビデオモデルのトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-12-17T18:53:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。