論文の概要: Speculative Forcing for Efficient Autoregressive Video Generation
- arxiv url: http://arxiv.org/abs/2610.22347v1
- Date: Thu, 15 Oct 2026 17:57:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.275336
- Title: Speculative Forcing for Efficient Autoregressive Video Generation
- Title(参考訳): 効率的な自己回帰映像生成のための投機的強制
- Abstract要約: Speculative Forcingは、中間的クリーンな見積もりをドラフトとして扱うフレームワークである。
フルステップサンプリングの品質を維持しつつ、fpsを大幅に削減する。
LongLiveでは、4段階のジェネレータと1トークンあたり1.7のデノイングステップが一致し、41.7 fpsと37.8 fpsで1.5倍高速に動作する。
- 参考スコア(独自算出の注目度): 78.368797550302
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Few-step autoregressive video generators enable streaming generation, yet they run every token through the final denoising step, regardless of how much refinement it needs. We find this uniform computation is often unnecessary: many tokens already closely match their eventual full-step outputs in the initial steps, while others require refinement until the end. We introduce Speculative Forcing, a framework that treats intermediate clean estimates as drafts and predicts when individual tokens can be safely accepted early. Once accepted, a token is frozen as its final output and undergoes no further denoising, while its cached keys and values remain available as context for the remaining tokens. We explore two alternative verifier designs: a training-free one based on similarity to clean content and stability across steps, and a learned one that reads the frozen generator's intermediate features to estimate each token's remaining gap to its full-step output. Across short-video, long-video, and world generation, Speculative Forcing preserves the quality of full-step sampling while substantially reducing computation. On LongLive, it matches the four-step generator with ~1.7 denoising steps per token, running over 1.5x faster at 41.7 and 37.8 fps. On Lingbot-World 2.0, where camera motion continually changes the visible content, it maintains quality with ~2.5 denoising steps per token and runs 1.35x faster at 24.5 fps.
- Abstract(参考訳): 数ステップの自己回帰ビデオジェネレータはストリーミング生成を可能にするが、必要な洗練度に関わらず、最後のデノイングステップを通じてすべてのトークンを実行する。
多くのトークンは、最初のステップで結果のフルステップ出力と密に一致しており、他のトークンは最終段階まで改善を必要としている。
投機的強制(Speculative Forcing)は、中間的クリーンな見積もりをドラフトとして扱い、個々のトークンがいつ早期に安全に受け入れられるかを予測するフレームワークである。
一度受け入れられると、トークンは最終的な出力として凍結され、さらにデノナイズされることなく、キャッシュされたキーと値は残りのトークンのコンテキストとして使用することができる。
2つの代替検証器の設計について検討する: クリーンな内容とステップ間の安定性の類似性に基づくトレーニングフリーのものと、凍結したジェネレータの中間特性を読み取って各トークンの残差をフルステップ出力に推定する学習型である。
ショートビデオ、ロングビデオ、ワールドジェネレーション全体にわたって、Speculative Forcingは、計算を大幅に削減しつつ、フルステップサンプリングの品質を保っている。
ロングライブでは、4段のジェネレータとトークンごとに1.7ステップをデノイングし、41.7 fpsと37.8 fpsで1.5倍高速で動作する。
Lingbot-World 2.0では、カメラモーションが可視コンテンツを継続的に変更し、トークンごとに2.5のデノゲーションステップで品質を維持し、24.5 fpsで1.35倍高速に動作している。
関連論文リスト
- In-Flight KV Cache with Clean Anchors for Faster Autoregressive Video Diffusion [62.81366599086374]
数ステップの自己回帰ビデオ拡散は、ビデオを時間的チャンクに分割し、チャンク・バイ・チャンクを生成することによって、長いビデオを生成する。
既に生成されたチャンクを記憶するために、以前のメソッドは、クリーンでノイズの少ないキー値(KV)キャッシュを追加のフォワードで再構築し、出力遅延を前進させることなくキャッシュを構築する。
我々は、このキャッシュを直接再利用して、重いキャッシュ更新のみのモデル転送を避けるFlashForwardを紹介します。
論文 参考訳(メタデータ) (2026-09-26T12:19:50Z) - Not All Tokens Need 40 Steps: Heterogeneous Step Allocation in Diffusion Transformers for Efficient Video Generation [53.176242285107485]
速度のダイナミクスに基づいて異なる冗長トークンに様々なステップ予算を割り当てる動き自由推論を導入する。
結果として生じるシーケンス長ミスマッチを解決するため、HSAはKV-cache機構を導入し、アクティブトークンが全シーケンスに参加することができる。
We evaluate HSA on the Wan-2 and LTX-2 models for both text-to-video (T2V) and image-to-video (2V) generation。
論文 参考訳(メタデータ) (2026-05-07T19:49:47Z) - Stateful Token Reduction for Long-Video Hybrid VLMs [69.6930118088911]
ハイブリッドビデオビジョン言語モデル(VLM)のクエリ条件付きトークン削減について検討する。
本稿では,低段階から高段階の減算スケジュールと,注意とマンバブロックの両ブロックを対象とした言語認識スコアリング機構を提案する。
積極的圧縮条件下では,本手法はテスト時にほぼベースライン精度で精度の高いプリフィルング・スピードアップを実現する。
論文 参考訳(メタデータ) (2026-02-27T08:11:06Z) - Just on Time: Token-Level Early Stopping for Diffusion Language Models [0.0]
拡散言語モデルは、しばしば計算的に非効率な反復的洗練を通じてテキストを生成する。
トレーニング不要でトークンレベルの早期停止アプローチを導入し,各位置における収束を独立に識別する。
これにより、タスク固有の微調整をせずに、適応的な各トーケン凍結が得られ、必要な拡散ステップの総数を大幅に削減する。
論文 参考訳(メタデータ) (2026-02-11T18:44:04Z) - Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。
市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。
結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
論文 参考訳(メタデータ) (2023-08-08T19:38:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。