論文の概要: In-Flight KV Cache with Clean Anchors for Faster Autoregressive Video Diffusion

• arxiv url: http://arxiv.org/abs/2609.32540v2
• Date: Wed, 30 Sep 2026 13:58:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:25.741065
• Title: In-Flight KV Cache with Clean Anchors for Faster Autoregressive Video Diffusion
• Title（参考訳）: 高速自動回帰ビデオ拡散のためのクリーンアンカーを用いた飛行中のKVキャッシュ
• Abstract要約: 数ステップの自己回帰ビデオ拡散は、ビデオを時間的チャンクに分割し、チャンク・バイ・チャンクを生成することによって、長いビデオを生成する。 既に生成されたチャンクを記憶するために、以前のメソッドは、クリーンでノイズの少ないキー値(KV)キャッシュを追加のフォワードで再構築し、出力遅延を前進させることなくキャッシュを構築する。 我々は、このキャッシュを直接再利用して、重いキャッシュ更新のみのモデル転送を避けるFlashForwardを紹介します。
• 参考スコア（独自算出の注目度）: 62.81366599086374
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-step autoregressive video diffusion generates a long video by splitting the video into temporal chunks and generating chunk-by-chunk, each through a short sequence of denoising stages. To memorize chunks that are already generated, previous methods reconstruct a clean or less-noisy key--value (KV) cache by additional forwards to build the cache without advancing an output latent. However, every denoising forward itself already computes the in-flight KV of the current chunk. We introduce FlashForward, which directly reuses this cache to avoid the heavy cache-update-only model forwards. After the current chunk completes one denoising stage, its stage-specific cache is already available for the next chunk. Assigning one GPU to each stage therefore lets different chunks occupy different stages concurrently. This early availability has a quality cost: the resulting stage-matched history is noisy, causing appearance and motion drift among chunks. To complement it, FlashForward produces sparse auxiliary clean anchor latents before the corresponding region is generated so the generation trajectories can be stabilized by this two-sided conditioning. The two memories operate at different temporal scales: sparse clean anchor KV supplies coarse, long-range two-sided structural guidance, while dense stage-matched history preserves fine, recent evolution. With up to four GPUs, FlashForward runs $1.16$--$1.69\times$ faster than HiAR and $1.42$--$2.92\times$ faster than Self-Forcing for 16 FPS videos of 20 seconds or longer across 1.3B and 14B backbone scales at 480p and 720p. On VBench, for the 1.3B model at 480p, it achieves higher scores and remains stable at longer durations, demonstrating that FlashForward generates high-quality and temporally consistent videos across durations of 20s, 35s and 65s at a much faster generation speed.
• Abstract（参考訳）: 数ステップの自己回帰的ビデオ拡散は、ビデオを時間的チャンクに分割し、それぞれ短い演目段階を経てチャンク・バイ・チャンクを生成することによって、長いビデオを生成する。 既に生成されたチャンクを記憶するために、以前のメソッドは、クリーンでノイズの少ないキー値(KV)キャッシュを追加のフォワードで再構築し、出力遅延を前進させることなくキャッシュを構築する。 しかし、前進する全てのデノイングは、既に現在のチャンクの飛行中のKVを計算している。 我々は、このキャッシュを直接再利用して、重いキャッシュ更新のみのモデル転送を避けるFlashForwardを紹介します。 現在のチャンクが1つのデノイングステージを完了した後、ステージ固有のキャッシュは、すでに次のチャンクで利用可能である。 したがって、各ステージに1つのGPUを割り当てると、異なるチャンクが異なるステージを同時に占有する。 このアーリーアベイラビリティーは品質コストが高く、ステージマッチングされた履歴はノイズが多く、チャンク間の外観と動きのドリフトを引き起こします。 補うために、FlashForwardは、対応する領域が生成される前にスパース補助的なクリーンアンカー潜水剤を生成し、この両側条件で生成軌道を安定化させることができる。 希薄なクリーンアンカーKVは粗い、長距離の2面構造誘導を供給し、密度の高いステージマッチング履歴は細かな最近の進化を保っている。 最大4つのGPUで、FlashForwardは、HiARより16$--1.69\times$1.42$--2.92\times$1.3Bと14Bのバックボーンスケールで20秒以上の16 FPSビデオのSelf-Forcingより速い。 VBenchでは、480pの1.3Bモデルで高いスコアを達成し、長期間安定し、FlashForwardがより高速な生成速度で20s、35s、65sで高品質で時間的に一貫したビデオを生成することを示した。

関連論文リスト

• Motion-Aware Caching for Efficient Autoregressive Video Generation [73.27762884730272]
  MotionCacheは、ピクセルレベルのモーション特性の軽量プロキシとして、フレーム間の差異を利用する。 SkyReels-V2やMAGI-1のような最先端モデルの実験では、MotionCacheが大幅なスピードアップを実現している。
  論文  参考訳（メタデータ） (2026-05-03T05:49:27Z)
• PackForcing: Short Video Training Suffices for Long Video Sampling and Long Context Inference [46.18482046594169]
  PackForcingは、単一のH200 GPU上で16 FPSでコヒーレントな2分832x480ビデオを生成する。 わずか4GBのバウンドKVキャッシュを実現し、ゼロショットまたは5秒のクリップでトレーニングされた24倍の時間(5秒から120秒)を効果的に動作させることができる。
  論文  参考訳（メタデータ） (2026-03-26T17:59:05Z)
• Flow caching for autoregressive video generation [72.10021661412364]
  自動回帰ビデオ生成に特化して設計された,最初のキャッシュフレームワークであるFlowCacheを紹介する。 本手法は,MAGI-1では2.38倍,SkyReels-V2では6.7倍,品質劣化は無視できない。
  論文  参考訳（メタデータ） (2026-02-11T13:11:04Z)
• PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
  トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。 効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
  論文  参考訳（メタデータ） (2026-01-07T19:51:06Z)
• TaoCache: Structure-Maintained Video Generation Acceleration [4.594224594572109]
  ビデオ拡散モデルのためのトレーニング不要のプラグイン・アンド・プレイキャッシュ戦略であるTaoCacheを提案する。 モデルのノイズ出力を予測するために固定点視点を採用しており、特に遅延雑音発生の段階で有効である。
  論文  参考訳（メタデータ） (2025-08-12T14:40:36Z)
• dKV-Cache: The Cache for Diffusion Language Models [53.85291644298835]
  Diffusion Language Models (DLMs) は自己回帰型言語モデルにとって有望な競合と見なされている。 本稿では,DLMの復調過程に対するKVキャッシュ機構,遅延KVキャッシュを提案する。 我々のアプローチは、異なるトークンが拡散過程を通して異なる表現力学を持つという観察によって動機付けられている。
  論文  参考訳（メタデータ） (2025-05-21T17:32:10Z)
• Ca2-VDM: Efficient Autoregressive Video Diffusion Model with Causal Generation and Cache Sharing [66.66090399385304]
  Ca2-VDMは、Causal生成とキャッシュ共有を備えた効率的な自己回帰VDMである。 因果生成のために一方向の特徴計算を導入し、前回の自己回帰ステップで条件付きフレームのキャッシュをプリ計算できるようにする。 キャッシュ共有では、巨大なキャッシュストレージコストを避けるために、すべてのデノナイズステップでキャッシュを共有する。
  論文  参考訳（メタデータ） (2024-11-25T13:33:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。