論文の概要: Long-Horizon Streaming Video Generation via Hybrid Attention with Decoupled Distillation

• arxiv url: http://arxiv.org/abs/2604.10103v1
• Date: Sat, 11 Apr 2026 08:54:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.845387
• Title: Long-Horizon Streaming Video Generation via Hybrid Attention with Decoupled Distillation
• Title（参考訳）: 脱カップリング蒸留によるハイブリッドアテンションによる長距離ストリーミング映像生成
• Abstract要約: 本稿では,時間的情報保持と計算効率を協調的に最適化するハイブリッド・フォースを提案する。 我々のモデルは、量子化やモデル圧縮なしで、単一のNVIDIA H100 GPU上で29.5 FPSでリアルタイムな832x480ビデオ生成を実現する。
• 参考スコア（独自算出の注目度）: 16.611062315689306
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Streaming video generation (SVG) distills a pretrained bidirectional video diffusion model into an autoregressive model equipped with sliding window attention (SWA). However, SWA inevitably loses distant history during long video generation, and its computational overhead remains a critical challenge to real-time deployment. In this work, we propose Hybrid Forcing, which jointly optimizes temporal information retention and computational efficiency through a hybrid attention design. First, we introduce lightweight linear temporal attention to preserve long-range dependencies beyond the sliding window. In particular, we maintain a compact key-value state to incrementally absorb evicted tokens, retaining temporal context with negligible memory and computational overhead. Second, we incorporate block-sparse attention into the local sliding window to reduce redundant computation within short-range modeling, reallocating computational capacity toward more critical dependencies. Finally, we introduce a decoupled distillation strategy tailored to the hybrid attention design. A few-step initial distillation is performed under dense attention, then the distillation of our proposed linear temporal and block-sparse attention is activated for streaming modeling, ensuring stable optimization. Extensive experiments on both short- and long-form video generation benchmarks demonstrate that Hybrid Forcing consistently achieves state-of-the-art performance. Notably, our model achieves real-time, unbounded 832x480 video generation at 29.5 FPS on a single NVIDIA H100 GPU without quantization or model compression. The source code and trained models are available at https://github.com/leeruibin/hybrid-forcing.
• Abstract（参考訳）: ストリームビデオ生成(SVG)は、予め訓練された双方向ビデオ拡散モデルをスライディングウィンドウアテンション(SWA)を備えた自己回帰モデルに蒸留する。 しかし、SWAは長時間のビデオ生成において必然的に遠い歴史を失い、その計算オーバーヘッドはリアルタイム展開にとって重要な課題である。 本研究では,ハイブリッドアテンション設計による時間的情報保持と計算効率を協調的に最適化するハイブリッドフォーシングを提案する。 まず、スライディングウィンドウの向こう側における長距離依存性を維持するために、軽量な線形時間的注意を導入する。 特に,排他的トークンを漸進的に吸収するコンパクトなキー値状態を維持し,メモリや計算オーバーヘッドを無視できる時間的コンテキストを維持している。 第2に,局所的なスライディングウィンドウにブロックスパース注意を組み込むことにより,ショートレンジモデリングにおける冗長な計算を削減し,計算能力をより重要な依存関係に再配置する。 最後に,ハイブリッドアテンション設計に適した分離蒸留方式を導入する。 数段階の初期蒸留を高密度で行い, 提案した線形時間的, ブロックスパース的注意の蒸留をストリーミングモデリングのために活性化し, 安定な最適化を図った。 ショートおよびロングフォームのビデオ生成ベンチマークの広範な実験は、ハイブリッドフォーシングが常に最先端のパフォーマンスを達成することを実証している。 特に、我々のモデルは、量子化やモデル圧縮なしで単一のNVIDIA H100 GPU上で、29.5 FPSでリアルタイムの832x480ビデオ生成を実現する。 ソースコードとトレーニングされたモデルはhttps://github.com/leeruibin/hybrid-forcecing.comで公開されている。

関連論文リスト

• LiveVVT: High-Fidelity Video Virtual Try-On in Real Time [36.4434648528291]
  Video Virtual Try-On (VVT) は双方向モデリングにより高視力を実現する。 本稿では,双方向境界モデルを保存するローリングストリーミング拡散フレームワークLiveVVTを紹介する。 ペアとペアの長いシーケンスのベンチマークによる実験は、同様のサイズのモデルよりも優れた生成品質を示す。
  論文  参考訳（メタデータ） (2026-08-27T07:06:51Z)
• Towards Error-Free Long Video Generation [56.86952045212838]
  本稿では,高品質でダイナミックでアイデンティティに一貫性のある単一ショット長ビデオを生成する,無限長のビデオ生成フレームワークを提案する。 まず,大規模なショートビデオデータに基づいて拡散モデルをビデオ拡張モデルとして微調整し,時間的コヒーレントなクリップを自動的に生成する。 我々のフレームワークは、リアルでコヒーレントな微小レベルのビデオ合成のための新しいベンチマークを確立する。
  論文  参考訳（メタデータ） (2026-06-21T07:39:37Z)
• Attend Locally, Remember Linearly: Linear Attention as Cross-Frame Memory for Autoregressive Video Diffusion [61.57938553036056]
  ARL2は、二次的なクロスフレームアテンションを固定サイズのリカレント状態に置き換えるハイブリッドアテンションモジュールである。 本研究では,フレーム内ソフトマックスブランチとフレーム間リカレント線形ブランチの2つに分割し,ストリームコンテキストの固定サイズ状態を維持する。 75%の層がハイブリッドリニアアテンションに置き換えられ、最大2.26ウォールクロックのスピードアップと54%のメモリ削減を実現した。
  論文  参考訳（メタデータ） (2026-05-15T19:33:45Z)
• Streaming Autoregressive Video Generation via Diagonal Distillation [50.13573884115673]
  自己回帰モデルは、シーケンシャルフレーム合成のための自然なフレームワークを提供するが、高い忠実性を達成するためには重い計算を必要とする。 ビデオチャンクとデノイングステップの時間的情報を活用するために,ダイアゴナル蒸留を提案する。 本手法は,2.61秒(最大31FPS)で5秒ビデオを生成し,未蒸留モデル上で277.3倍のスピードアップを実現する。
  論文  参考訳（メタデータ） (2026-03-10T10:45:24Z)
• ReHyAt: Recurrent Hybrid Attention for Video Diffusion Transformers [10.830662834634879]
  ReHyAtは、ソフトマックスアテンションの忠実度と線形アテンションの効率を結合するハイブリッドアテンション機構である。 実験により,ReHyAtは2次から線形への注目コストを低減しつつ,最先端の映像品質を実現することが示された。
  論文  参考訳（メタデータ） (2026-01-07T19:26:30Z)
• Reward Forcing: Efficient Streaming Video Generation with Rewarded Distribution Matching Distillation [69.57572900337176]
  本稿では,効率的なストリーミングビデオ生成のための新しいフレームワークであるReward Forcingを紹介する。 EMA-Sinkトークンは、長期コンテキストと最近のダイナミクスの両方をキャプチャし、初期フレームコピーを防ぐ。 Re-DMDは、視覚言語モデルにより評価されたより大きなダイナミックスを持つサンプルを優先順位付けすることで、モデル出力分布を高逆領域にバイアスする。
  論文  参考訳（メタデータ） (2025-12-04T11:12:13Z)
• Rolling Forcing: Autoregressive Long Video Diffusion in Real Time [86.40480237741609]
  Rolling Forcingは、エラーの最小限の蓄積で長いビデオをストリーミングできる、新しいビデオ生成技術である。 転がり強制力には3つの新しい設計が伴う。第一に、エラー伝播を加速する個別のフレームを反復的にサンプリングする代わりに、共同演示方式を設計する。 第2に,アテンションシンク機構を長軸ストリームビデオ生成タスクに導入し,初期フレームのキー値状態をグローバルなコンテキストアンカーとして保持する。 第3に,大半が拡張された遮音窓上での無段蒸留を可能にする効率的な訓練アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2025-09-29T17:57:14Z)
• Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion [67.94300151774085]
  本稿では,自己回帰ビデオ拡散モデルのための新しい訓練パラダイムであるSelf Forcingを紹介する。 露光バイアスの長年の問題に対処し、地道的な文脈で訓練されたモデルは、自身の不完全な出力で条件付けられたシーケンスを生成する必要がある。
  論文  参考訳（メタデータ） (2025-06-09T17:59:55Z)
• From Slow Bidirectional to Fast Autoregressive Video Diffusion Models [48.35054927704544]
  現在のビデオ拡散モデルは、印象的な生成品質を実現するが、双方向の注意依存のため、インタラクティブなアプリケーションに苦戦する。 この制限には、事前訓練された双方向拡散変換器を自己回帰変換器に適応させ、フレームをオンザフライで生成することで対処する。 我々のモデルは、VBench-Longベンチマークで84.27点のスコアを達成し、以前のすべてのビデオ生成モデルを上回った。
  論文  参考訳（メタデータ） (2024-12-10T18:59:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。