論文の概要: Long-Horizon Streaming Video Generation via Hybrid Attention with Decoupled Distillation

• arxiv url: http://arxiv.org/abs/2604.10103v1
• Date: Sat, 11 Apr 2026 08:54:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.845387
• Title: Long-Horizon Streaming Video Generation via Hybrid Attention with Decoupled Distillation
• Title（参考訳）: 脱カップリング蒸留によるハイブリッドアテンションによる長距離ストリーミング映像生成
• Authors: Ruibin Li, Tao Yang, Fangzhou Ai, Tianhe Wu, Shilei Wen, Bingyue Peng, Lei Zhang,
• Abstract要約: 本稿では,時間的情報保持と計算効率を協調的に最適化するハイブリッド・フォースを提案する。 我々のモデルは、量子化やモデル圧縮なしで、単一のNVIDIA H100 GPU上で29.5 FPSでリアルタイムな832x480ビデオ生成を実現する。
• 参考スコア（独自算出の注目度）: 16.611062315689306
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Streaming video generation (SVG) distills a pretrained bidirectional video diffusion model into an autoregressive model equipped with sliding window attention (SWA). However, SWA inevitably loses distant history during long video generation, and its computational overhead remains a critical challenge to real-time deployment. In this work, we propose Hybrid Forcing, which jointly optimizes temporal information retention and computational efficiency through a hybrid attention design. First, we introduce lightweight linear temporal attention to preserve long-range dependencies beyond the sliding window. In particular, we maintain a compact key-value state to incrementally absorb evicted tokens, retaining temporal context with negligible memory and computational overhead. Second, we incorporate block-sparse attention into the local sliding window to reduce redundant computation within short-range modeling, reallocating computational capacity toward more critical dependencies. Finally, we introduce a decoupled distillation strategy tailored to the hybrid attention design. A few-step initial distillation is performed under dense attention, then the distillation of our proposed linear temporal and block-sparse attention is activated for streaming modeling, ensuring stable optimization. Extensive experiments on both short- and long-form video generation benchmarks demonstrate that Hybrid Forcing consistently achieves state-of-the-art performance. Notably, our model achieves real-time, unbounded 832x480 video generation at 29.5 FPS on a single NVIDIA H100 GPU without quantization or model compression. The source code and trained models are available at https://github.com/leeruibin/hybrid-forcing.
• Abstract（参考訳）: ストリームビデオ生成(SVG)は、予め訓練された双方向ビデオ拡散モデルをスライディングウィンドウアテンション(SWA)を備えた自己回帰モデルに蒸留する。 しかし、SWAは長時間のビデオ生成において必然的に遠い歴史を失い、その計算オーバーヘッドはリアルタイム展開にとって重要な課題である。 本研究では,ハイブリッドアテンション設計による時間的情報保持と計算効率を協調的に最適化するハイブリッドフォーシングを提案する。 まず、スライディングウィンドウの向こう側における長距離依存性を維持するために、軽量な線形時間的注意を導入する。 特に,排他的トークンを漸進的に吸収するコンパクトなキー値状態を維持し,メモリや計算オーバーヘッドを無視できる時間的コンテキストを維持している。 第2に,局所的なスライディングウィンドウにブロックスパース注意を組み込むことにより,ショートレンジモデリングにおける冗長な計算を削減し,計算能力をより重要な依存関係に再配置する。 最後に,ハイブリッドアテンション設計に適した分離蒸留方式を導入する。 数段階の初期蒸留を高密度で行い, 提案した線形時間的, ブロックスパース的注意の蒸留をストリーミングモデリングのために活性化し, 安定な最適化を図った。 ショートおよびロングフォームのビデオ生成ベンチマークの広範な実験は、ハイブリッドフォーシングが常に最先端のパフォーマンスを達成することを実証している。 特に、我々のモデルは、量子化やモデル圧縮なしで単一のNVIDIA H100 GPU上で、29.5 FPSでリアルタイムの832x480ビデオ生成を実現する。 ソースコードとトレーニングされたモデルはhttps://github.com/leeruibin/hybrid-forcecing.comで公開されている。

関連論文リスト

• ReHyAt: Recurrent Hybrid Attention for Video Diffusion Transformers [10.830662834634879]
  ReHyAtは、ソフトマックスアテンションの忠実度と線形アテンションの効率を結合するハイブリッドアテンション機構である。 実験により,ReHyAtは2次から線形への注目コストを低減しつつ,最先端の映像品質を実現することが示された。
  論文  参考訳（メタデータ） (2026-01-07T19:26:30Z)
• Reward Forcing: Efficient Streaming Video Generation with Rewarded Distribution Matching Distillation [69.57572900337176]
  本稿では,効率的なストリーミングビデオ生成のための新しいフレームワークであるReward Forcingを紹介する。 EMA-Sinkトークンは、長期コンテキストと最近のダイナミクスの両方をキャプチャし、初期フレームコピーを防ぐ。 Re-DMDは、視覚言語モデルにより評価されたより大きなダイナミックスを持つサンプルを優先順位付けすることで、モデル出力分布を高逆領域にバイアスする。
  論文  参考訳（メタデータ） (2025-12-04T11:12:13Z)
• Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion [67.94300151774085]
  本稿では,自己回帰ビデオ拡散モデルのための新しい訓練パラダイムであるSelf Forcingを紹介する。 露光バイアスの長年の問題に対処し、地道的な文脈で訓練されたモデルは、自身の不完全な出力で条件付けられたシーケンスを生成する必要がある。
  論文  参考訳（メタデータ） (2025-06-09T17:59:55Z)
• From Slow Bidirectional to Fast Autoregressive Video Diffusion Models [48.35054927704544]
  現在のビデオ拡散モデルは、印象的な生成品質を実現するが、双方向の注意依存のため、インタラクティブなアプリケーションに苦戦する。 この制限には、事前訓練された双方向拡散変換器を自己回帰変換器に適応させ、フレームをオンザフライで生成することで対処する。 我々のモデルは、VBench-Longベンチマークで84.27点のスコアを達成し、以前のすべてのビデオ生成モデルを上回った。
  論文  参考訳（メタデータ） (2024-12-10T18:59:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。