論文の概要: Training-Free Predictive Spatio-Temporal Token Pruning for Few-Step Autoregressive Video Diffusion

• arxiv url: http://arxiv.org/abs/2611.07551v1
• Date: Thu, 05 Nov 2026 06:59:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.575392
• Title: Training-Free Predictive Spatio-Temporal Token Pruning for Few-Step Autoregressive Video Diffusion
• Title（参考訳）: 短時間自己回帰ビデオ拡散のためのトレーニング不要な時空間トーンプルーニング
• Abstract要約: 数ステップの自己回帰(AR)ビデオ拡散モデルは、チャンクごとにビデオチャンクを生成する。 ほんの少しの蒸留では、既存のトレーニングフリーキャッシング手法を利用するためのクロスステップ冗長性はほとんど残っていない。 クロスフレーム類似性とクロスステップ収束性からトークン単位の冗長性マスクを統一したトレーニングフリーフレームワークであるPreSTPを提案する。
• 参考スコア（独自算出の注目度）: 12.790464383113571
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-step autoregressive (AR) video diffusion models generate videos chunk by chunk and have made efficient video generation practical. However, further accelerating these models toward real-time generation remains challenging, as few-step distillation leaves little cross-step redundancy for existing training-free caching methods to exploit. We revisit this regime and identify two token-level redundancy patterns: cross-frame redundancy from static content shared across adjacent frames, and cross-step redundancy from tokens that converge early during denoising. Crucially, we find that early clean estimates along the model's own denoising trajectory provide an effective online signal for locating both patterns, requiring no retraining, auxiliary predictor, or reference video. Based on these findings, we propose PreSTP (Predictive Spatio-Temporal Token Pruning), a training-free framework that constructs a unified token-wise redundancy mask from cross-frame similarity and cross-step convergence. Tokens marked as redundant skip subsequent computation under a consistent last-computed-value restoration rule, and a content-adaptive mask reuse strategy further reduces dense probing cost. On 5-second generation, PreSTP achieves 1.52x-3.20x speedups and a better efficiency-fidelity trade-off than coarse-grained caching baselines such as TeaCache and FlowCache. On 30-second generation, it reaches up to 1.96x speedup while improving VBench-Long and suppressing long-horizon drift. Notably, it continues to reduce inference cost even in the extreme one-step regime, where cross-step redundancy vanishes entirely and coarse step-wise caching is no longer applicable.
• Abstract（参考訳）: 数ステップの自己回帰(AR)ビデオ拡散モデルでは,ビデオチャンクをチャンク単位で生成し,効率的なビデオ生成を実現している。 しかし、これらのモデルをリアルタイム生成に向けてさらに加速することは、数ステップの蒸留では既存のトレーニングフリーキャッシング手法が利用すべきクロスステップ冗長性がほとんど残っていないため、依然として困難である。 この状況を再検討し、隣接するフレーム間で共有される静的コンテンツからのクロスフレーム冗長性と、デノナイズ時に早期に収束するトークンからのクロスステップ冗長という、2つのトークンレベルの冗長性パターンを同定する。 重要なことに、モデル自身の認知軌道に沿った早期のクリーンな推定は、トレーニング、補助的な予測器、参照ビデオを必要としない、両方のパターンの特定に有効なオンライン信号を提供する。 これらの知見に基づいて,クロスフレーム類似性とクロスステップ収束性からトークン単位の冗長性マスクを統一的に構築するトレーニングフリーフレームワークであるPreSTP(Predictive Spatio-Temporal Token Pruning)を提案する。 コンテント適応マスク再利用戦略は、一貫した最終計算値復元規則の下での余分なスキップ後の計算として特徴付けられ、さらに高密度な探索コストを低減させる。 5秒世代のPreSTPは、TeaCacheやFlowCacheのような粗い粒度のキャッシュベースラインよりも、1.52x-3.20xのスピードアップと、効率と忠実性のトレードオフを実現している。 30秒間、VBench-Longを改良し、長い水平ドリフトを抑えながら、最大1.96倍のスピードアップに達する。 特に、クロスステップ冗長性が完全に消滅し、ステップワイズキャッシングがもはや適用されない極端なワンステップ体制でも、推論コストを削減し続けている。

関連論文リスト

• Rethinking Pixel Mean Flows via Interval Denoiser [95.11499828543344]
  潜在自由生成のためのフレームワークであるInterval Denoiserを提案する。 その結果,FIDは1ステップ (1-NFE) で4.55, 2ステップ (2-NFE) で3.98であった。
  論文  参考訳（メタデータ） (2026-08-05T13:22:43Z)
• Accelerating Rectified Flow Models via Trajectory-Aware Caching [35.13071059415995]
  我々は,スキップ・then-compensateパラダイムに従って,トレーニング不要なアクセラレーションフレームワークであるTACacheを提案する。 Trajectory-Aware Cacheは、テキスト・ツー・イメージ・ジェネレーションで最大4.14スピードアップ、テキスト・ツー・ビデオ・ジェネレーションで2.11スピードアップを達成する。
  論文  参考訳（メタデータ） (2026-05-16T03:44:58Z)
• Test-time Sparsity for Extreme Fast Action Diffusion [15.679362579177267]
  アクション拡散は、高忠実なアクション生成において優れるが、反復的なデノイングの性質のため、計算コストが重い。 この課題に対処するために,テスト時間間隔を提案する。これは,各モデルに対する動的に予測可能な残差計算をテスト時に前方に進めることで,動作拡散を加速することを目的としている。
  論文  参考訳（メタデータ） (2026-05-13T10:28:50Z)
• Motion-Aware Caching for Efficient Autoregressive Video Generation [73.27762884730272]
  MotionCacheは、ピクセルレベルのモーション特性の軽量プロキシとして、フレーム間の差異を利用する。 SkyReels-V2やMAGI-1のような最先端モデルの実験では、MotionCacheが大幅なスピードアップを実現している。
  論文  参考訳（メタデータ） (2026-05-03T05:49:27Z)
• Streaming Autoregressive Video Generation via Diagonal Distillation [50.13573884115673]
  自己回帰モデルは、シーケンシャルフレーム合成のための自然なフレームワークを提供するが、高い忠実性を達成するためには重い計算を必要とする。 ビデオチャンクとデノイングステップの時間的情報を活用するために,ダイアゴナル蒸留を提案する。 本手法は,2.61秒(最大31FPS)で5秒ビデオを生成し,未蒸留モデル上で277.3倍のスピードアップを実現する。
  論文  参考訳（メタデータ） (2026-03-10T10:45:24Z)
• No Cache Left Idle: Accelerating diffusion model via Extreme-slimming Caching [17.396336005757025]
  トレーニングフリーでキャッシュベースのアクセラレータであるX-Slim(e-Xtreme-Slimming Caching)を提案する。 タイムステップ、構造(ブロック)、空間(トークン)にわたってキャッシュ可能な冗長性を利用する最初の統一されたフレームワークである。 遅延を最大4.97倍と3.52倍に減らし、知覚損失を最小限に抑える。
  論文  参考訳（メタデータ） (2025-12-14T09:02:18Z)
• Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion [67.94300151774085]
  本稿では,自己回帰ビデオ拡散モデルのための新しい訓練パラダイムであるSelf Forcingを紹介する。 露光バイアスの長年の問題に対処し、地道的な文脈で訓練されたモデルは、自身の不完全な出力で条件付けられたシーケンスを生成する必要がある。
  論文  参考訳（メタデータ） (2025-06-09T17:59:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。