論文の概要: UnStep: Training-Free Acceleration of Causal Video Diffusion with Fewer Steps Than Distillation

• arxiv url: http://arxiv.org/abs/2609.32518v1
• Date: Sat, 26 Sep 2026 12:02:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 07:52:23.655435
• Title: UnStep: Training-Free Acceleration of Causal Video Diffusion with Fewer Steps Than Distillation
• Title（参考訳）: UnStep: 蒸留より低い段数での因果性ビデオ拡散の訓練自由加速
• Abstract要約: 提案するUnStepは,推論時に因果的ビデオモデルを高速化するトレーニングフリーラッパーである。 ステップ削減とアテンションウィンドウリングによって失われた品質を回復する2つの推論のみのメカニズムを提案する。 UnStepは、因果的ビデオ拡散のための新しいスループットレギュレーションを設定し、品質損失なく1つのH100で50FPS、GB200で77FPSに達した。
• 参考スコア（独自算出の注目度）: 22.112246514773762
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Distilling bidirectional multi-step video diffusion transformers into few-step causal models has become a common approach for streaming video generation. While these few-step students are significantly faster than the teachers they are distilled from, they remain slow for real-time generation. In this work we present UnStep, a training-free wrapper that accelerates few-step causal video models at inference by running them with fewer diffusion transformer (DiT) steps than during distillation and limiting the temporal window retained in the attention KV cache. We propose two inference-only mechanisms to recover quality lost by step reduction and attention windowing: renoising the generated latent frames to a near-clean level and reusing the existing clean-cache pass to refine them, and applying truncated SVD to the DiT attention value and output projections. We also accelerate inference with a quality-preserving runtime stack for the DiT and VAE decoder, including more efficient attention calls and KV indexing, fused Triton RoPE with cached coefficients, and VAE decoding with optimized memory layout, precision, and convolution kernels. By reducing computation and optimizing the runtime stack, UnStep sets a new throughput regime for causal video diffusion, by running substantially faster than current methods, reaching 50 FPS on a single H100 without quality loss, and 77 FPS on GB200, all without retraining.
• Abstract（参考訳）: 双方向多段階ビデオ拡散変換器を数ステップ因果モデルに蒸留することは、ストリーミングビデオ生成において一般的なアプローチとなっている。 これらの数ステップの学生は、蒸留された教師よりもはるかに速いが、リアルタイム世代では遅いままである。 本研究では, 拡散変圧器 (DiT) の段差を減らし, 注意KVキャッシュに保持される時間窓を制限することにより, 数ステップの因果ビデオモデルを推論時に高速化する訓練自由ラッパーUnStepを提案する。 ステップ縮小とアテンションウィンドウリングによって失われた品質を回復する2つの推論のみのメカニズムを提案する。生成した潜在フレームをほぼクリーンレベルにリノベートし、既存のクリーンキャッシュパスを再利用して洗練し、DETアテンション値と出力プロジェクションに切り詰められたSVDを適用する。 また、より効率的なアテンションコールやKVインデクシング、キャッシュ係数で融合したTriton RoPE、最適化されたメモリレイアウト、精度、畳み込みカーネルによるVAEデコードを含む、DiTおよびVAEデコーダの品質保持ランタイムスタックによる推論を高速化する。 計算の削減とランタイムスタックの最適化により、UnStepは因果的ビデオ拡散のための新しいスループット体系を設定し、現在の方法よりも大幅に高速に動作し、1つのH100で50FPS、GB200で77FPSに達した。

関連論文リスト

• Parallel Decoding Distillation for Fast Image and Video Generation [35.18845060233149]
  拡散モデルと流れマッチングモデルの高速推論のための並列復号蒸留(PDD)を提案する。 PDDは、ネットワーク評価毎に複数のデノゲーションステップを予測することで、生成を加速する。 LTX-2.3 Text-to-Video/Audio, Wan 14B Text-to-Video, Qwen-Image Text-to-Imageの4-8 NFEによるSOTA性能を実現する。
  論文  参考訳（メタデータ） (2026-07-28T17:20:00Z)
• DSA: Dynamic Step Allocation for Fast Autoregressive Video Generation [24.843472730316503]
  ビデオ拡散トランスフォーマーは最先端の視覚的品質を達成したが、その高い推論コストは、リアルタイムアプリケーションにとって大きなボトルネックであり続けている。 本稿では、ARビデオ拡散のための信頼性誘導適応フレームワークであるDSAを提案する。
  論文  参考訳（メタデータ） (2026-06-03T04:25:11Z)
• Streaming Autoregressive Video Generation via Diagonal Distillation [50.13573884115673]
  自己回帰モデルは、シーケンシャルフレーム合成のための自然なフレームワークを提供するが、高い忠実性を達成するためには重い計算を必要とする。 ビデオチャンクとデノイングステップの時間的情報を活用するために,ダイアゴナル蒸留を提案する。 本手法は,2.61秒(最大31FPS)で5秒ビデオを生成し,未蒸留モデル上で277.3倍のスピードアップを実現する。
  論文  参考訳（メタデータ） (2026-03-10T10:45:24Z)
• From Slow Bidirectional to Fast Autoregressive Video Diffusion Models [48.35054927704544]
  現在のビデオ拡散モデルは、印象的な生成品質を実現するが、双方向の注意依存のため、インタラクティブなアプリケーションに苦戦する。 この制限には、事前訓練された双方向拡散変換器を自己回帰変換器に適応させ、フレームをオンザフライで生成することで対処する。 我々のモデルは、VBench-Longベンチマークで84.27点のスコアを達成し、以前のすべてのビデオ生成モデルを上回った。
  論文  参考訳（メタデータ） (2024-12-10T18:59:50Z)
• Faster Image2Video Generation: A Closer Look at CLIP Image Embedding's Impact on Spatio-Temporal Cross-Attentions [27.111140222002653]
  本稿では,Stable Video Diffusion (SVD) フレームワークにおけるCLIP画像埋め込みの役割について検討する。 本稿では,SVDアーキテクチャの効率性に最適化されたトレーニング不要のアプローチであるVCUTを紹介する。 VCUTの実装により、ビデオ毎のMAC(Multiple-Accumulate Operations)を最大322T削減し、モデルパラメータを最大50M削減し、ベースラインと比較して20%のレイテンシ削減を実現した。
  論文  参考訳（メタデータ） (2024-07-27T08:21:14Z)
• StreamDiffusion: A Pipeline-level Solution for Real-time Interactive Generation [52.56469577812338]
  本稿では,インタラクティブな画像生成のためのリアルタイム拡散パイプラインStreamDiffusionを紹介する。 既存の拡散モデルは、テキストや画像プロンプトから画像を作成するのに適しているが、リアルタイムのインタラクションでは不足することが多い。 本稿では,従来のシーケンシャル・デノナイジングをデノナイジング・プロセスに変換する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-12-19T18:18:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。