論文の概要: FrameFold: Response-Guided KV Cache Consolidation for Autoregressive Long Video Generation

• arxiv url: http://arxiv.org/abs/2610.14568v1
• Date: Sat, 10 Oct 2026 04:38:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 12:58:50.934455
• Title: FrameFold: Response-Guided KV Cache Consolidation for Autoregressive Long Video Generation
• Title（参考訳）: FrameFold: 自己回帰長ビデオ生成のための応答型KVキャッシュの統合
• Abstract要約: トレーニング不要なKVキャッシュ統合手法であるFrameFoldを紹介する。 これは、マージ前後の同じ履歴クエリによって取得されたコンテンツを比較して、代表的構成とマージ選択の両方をガイドする。 条件付きアテンション応答を一致させることにより、値マージ係数をクローズド形式に適合させ、最低応答歪みのマージを選択する。 一致したKVキャッシュ予算の下では、Self ForcingとCausal Forcingの実験は30秒から60秒、LongLiveは120秒で、一貫性と視覚的品質が改善された。
• 参考スコア（独自算出の注目度）: 19.18230123757521
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In autoregressive video generation, retaining all historical key-value (KV) states increases memory usage and per-step attention costs as videos grow longer. A fixed cache budget bounds these costs but raises the challenge of preserving historical content that supports consistent, high-quality generation. Existing methods control cache size through history selection or consolidation, yet deciding what to retain and how to limit the loss of useful content remains a shared challenge. Our analysis shows that spatial queries depend on different historical content and that higher current attention coverage does not necessarily yield better long-video quality. We introduce FrameFold, a training-free KV cache consolidation method that compares the content retrieved by the same recent historical queries before and after merging to guide both representative construction and merge selection. Exploiting temporal redundancy between adjacent historical entries, FrameFold merges their KV states into shared representatives while retaining complete spatial grids. It fits value-merging coefficients in closed form by matching conditional attention responses, then selects the merge with the lowest remaining response distortion. Under matched KV cache budgets, experiments on Self Forcing and Causal Forcing at 30 and 60 seconds and on LongLive at 120 seconds demonstrate improved consistency and visual quality. Continuous eight-minute Self Forcing rollouts further show less quality degradation than the baselines.
• Abstract（参考訳）: 自己回帰ビデオ生成では、すべての履歴キー値(KV)状態を維持することで、ビデオが長くなるにつれて、メモリ使用量とステップ毎の注意コストが増大する。 固定的なキャッシュ予算は、これらのコストを束縛するが、一貫性のある高品質な生成をサポートする歴史的なコンテンツを保存するという課題を提起する。 既存のメソッドは、履歴の選択や統合を通じてキャッシュサイズを制御するが、保持すべきものや、有用なコンテンツの損失を制限する方法を決定することは、共有の課題である。 分析の結果、空間的クエリは異なる履歴コンテンツに依存しており、現在の注目度が高いほどビデオ品質が向上するとは限らないことがわかった。 FrameFoldはトレーニング不要なKVキャッシュの統合手法で、統合前とマージ後、同じ履歴クエリによって検索されたコンテンツを比較して、代表構成とマージ選択の両方をガイドする。 隣り合う歴史的なエントリ間の時間的冗長性の爆発によって、FrameFoldは、完全な空間グリッドを保持しながら、KV状態を共有代表にマージする。 条件付きアテンション応答を一致させることにより、値マージ係数をクローズド形式に適合させ、最低応答歪みのマージを選択する。 一致したKVキャッシュ予算の下では、Self ForcingとCausal Forcingの実験は30秒から60秒、LongLiveは120秒で、一貫性と視覚的品質が改善された。 連続8分間のセルフフォースロールアウトでは、ベースラインよりも品質が低下する。

関連論文リスト

• DensityKV: Density-Guided KV Cache Compression for Long Video Generation [8.643177952128172]
  トレーニング不要な歴史的KV銀行経営戦略であるDindenkKVを提案する。 州が銀行に入った後、近隣の人口密度の増大を制限することで、密度KVは歴史的な蓄積を繰り返している。 3つの自己回帰型ビデオ生成バックボーンと複数世代にわたる実験により、歴史的KV容量の上限が同じである場合、密度KVは長い水平の一貫性と生成安定性を向上させることが示された。
  論文  参考訳（メタデータ） (2026-08-28T04:57:57Z)
• TetherCache: Stabilizing Autoregressive Long-Form Video Generation with Gated Recall and Trusted Alignment [51.33418612284208]
  ドリフト耐性長ビデオ生成のためのトレーニングフリーでプラグアンドプレイのキャッシュ管理戦略であるTetherCacheを提案する。 Gated Recall with Attention-Diversity Balancingは、ゲートスコアを使用して長距離メモリフレームを選択する。 TAMEは、信頼されたコンテキスト分布に統計を合わせることで、新しくリコールされたメモリトークンを軽量に編集する。
  論文  参考訳（メタデータ） (2026-06-11T08:16:08Z)
• FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion [59.207505503284715]
  FadeMemは、歴史的なKVブロックを固定キャッシュ予算の下で時間階層に整理する。 新しい歴史はきめ細かいエントリとして挿入され、古い隣のエントリは徐々にマージされる。 実験では、既存の有界キャッシュ戦略よりも、被験者の一貫性、背景安定性、時間的コヒーレンスが改善された。
  論文  参考訳（メタデータ） (2026-06-09T10:22:18Z)
• OmniMem: Scalable and Adaptive Memory Retrieval for Long Video Generation [35.901097079422755]
  本稿では,履歴キャッシュ上でスパースKV検索を行う,明示的なフルレンジメモリ検索フレームワークを提案する。 長時間のビデオ生成の実験では、OmniMemはDynamic Degreeを52.3%改善した。
  論文  参考訳（メタデータ） (2026-05-28T19:56:00Z)
• Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion [25.555611454522126]
  textbfFocused Forcingは、生成フレームとヘッド次元の両方に沿ってキャッシュされた履歴に焦点を当てた、トレーニング不要なKV選択手法である。 生成されたフレームごとに、Focused Forcingは最も関連性があり、独特な歴史的フレームを保存する。 複数の自己回帰生成パラダイム全体で、Focused Forcingはトレーニングなしで最大$textbf1.48times$エンドツーエンドアクセラレーションを達成する。
  論文  参考訳（メタデータ） (2026-05-18T12:58:13Z)
• Past- and Future-Informed KV Cache Policy with Salience Estimation in Autoregressive Video Diffusion [53.14908419375226]
  既存のアプローチは一般的にKVキャッシュポリシーに依存しており、長期のビデオ生成におけるトークンの重要性の違いを無視している。 我々は,過去・未来型KVキャッシュポリシー(PaFu-KV)を提案する。 特にPaFu-KVは、双方向キャッシュ教師から抽出した軽量なサリエンス推定ヘッドを導入し、サリエンススコアを推定する。 このポリシーは、KVキャッシュ容量を小さくし、推論時にメモリフットプリントを減らすことで、より良い品質効率のトレードオフをもたらす。
  論文  参考訳（メタデータ） (2026-01-29T15:55:29Z)
• PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
  トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。 効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
  論文  参考訳（メタデータ） (2026-01-07T19:51:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。