論文の概要: Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion

• arxiv url: http://arxiv.org/abs/2605.18346v1
• Date: Mon, 18 May 2026 12:58:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:49.616638
• Title: Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion
• Title（参考訳）: 集中強制: 自己回帰的ビデオ拡散のためのコンテンツ対応フレーム毎KV選択
• Abstract要約: textbfFocused Forcingは、生成フレームとヘッド次元の両方に沿ってキャッシュされた履歴に焦点を当てた、トレーニング不要なKV選択手法である。 生成されたフレームごとに、Focused Forcingは最も関連性があり、独特な歴史的フレームを保存する。 複数の自己回帰生成パラダイム全体で、Focused Forcingはトレーニングなしで最大$textbf1.48times$エンドツーエンドアクセラレーションを達成する。
• 参考スコア（独自算出の注目度）: 25.555611454522126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in autoregressive video diffusion have enabled sequential and streaming video generation. However, long-horizon generation requires increasingly large KV caches, making efficient compression without sacrificing quality challenging. Existing methods mostly select historical frames based on attention scores, but their context decisions remain coarse. When multiple frames are generated in the same chunk, these methods often apply a shared history selection to the whole chunk, score historical frames solely by attention, and assign head-wise budgets either uniformly or by attention-pattern heuristics rather than explicit head-importance estimation. We show that frames within the same generated chunk can depend on distinct historical frames, that the same historical frame can receive different attention scores as its relative temporal distance to the current frames changes, and that masking different heads induces unequal generation degradation. Motivated by these findings, we propose \textbf{Focused Forcing}, a training-free KV selection method that focuses cached history along both generated-frame and head dimensions. For each generated frame, Focused Forcing preserves the most relevant and distinctive historical frames by combining attention scores with diversity scores of historical frames, while assigning larger budgets to heads with higher estimated importance. Across multiple autoregressive generation paradigms, Focused Forcing achieves up to $\textbf{1.48}\times$ end-to-end acceleration without training, while \textbf{improving visual quality and text alignment}. \textit{Our code will be released on GitHub.}
• Abstract（参考訳）: 自動回帰ビデオ拡散の最近の進歩は、シーケンシャルおよびストリーミングビデオ生成を可能にしている。 しかし、長いホライゾン生成はKVキャッシュの増大を必要とし、品質を犠牲にすることなく効率的な圧縮を実現する。 既存の手法は、主に注目スコアに基づいて歴史的フレームを選択するが、その文脈決定はいまだに粗いままである。 複数のフレームが同じチャンク内で生成される場合、これらの手法は、チャンク全体に対して共有履歴の選択を適用し、注意のみによって履歴フレームをスコアし、明示的なヘッドインパタンス推定ではなく、一様または注目パターンのヒューリスティックスによって頭回りの予算を割り当てる。 同一のチャンク内のフレームは、異なる歴史的フレームに依存することができ、同じ歴史的フレームは、現在のフレームと相対的時間的距離が変化するにつれて異なる注意スコアを受け取ることができ、異なるヘッドのマスキングが不平等な生成劣化を引き起こすことを示す。 これらの知見に触発されて、生成フレームとヘッド次元の両方に沿ってキャッシュされた履歴に焦点を当てたトレーニング不要なKV選択法である「textbf{Focused Forcing}」を提案する。 生成されたフレームごとに、Focused Forcingは、注目スコアと過去のフレームの多様性スコアを組み合わせることで、最も関連性が高く、独特な歴史的フレームを保持します。 複数の自己回帰生成パラダイム全体で、Focused Forcingはトレーニングなしで最大$\textbf{1.48}\times$ end-to-endAccelerationを達成する。 \textit{Our codeはGitHubでリリースされる。 ※

関連論文リスト

• RIDGE: Region-Informed Derivative-Guided Evidence Selection for Long Video Understanding [55.75126327155788]
  RIDGEはフレーム選択フレームワークであり、時間信号としてフレームクエリの類似性曲線を読み取る。 タイムラインを構造的なリージョンに分割し、固定予算の下でイベントコア、トランジション、ビルドアップ、アフターマス、コンテキストフレームを保存するために、リージョン固有の選択を適用する。 ほとんどの設定で最高のパフォーマンスを達成し、他の設定では競争力を維持します。
  論文  参考訳（メタデータ） (2026-08-30T18:40:51Z)
• TetherCache: Stabilizing Autoregressive Long-Form Video Generation with Gated Recall and Trusted Alignment [51.33418612284208]
  ドリフト耐性長ビデオ生成のためのトレーニングフリーでプラグアンドプレイのキャッシュ管理戦略であるTetherCacheを提案する。 Gated Recall with Attention-Diversity Balancingは、ゲートスコアを使用して長距離メモリフレームを選択する。 TAMEは、信頼されたコンテキスト分布に統計を合わせることで、新しくリコールされたメモリトークンを軽量に編集する。
  論文  参考訳（メタデータ） (2026-06-11T08:16:08Z)
• FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion [59.207505503284715]
  FadeMemは、歴史的なKVブロックを固定キャッシュ予算の下で時間階層に整理する。 新しい歴史はきめ細かいエントリとして挿入され、古い隣のエントリは徐々にマージされる。 実験では、既存の有界キャッシュ戦略よりも、被験者の一貫性、背景安定性、時間的コヒーレンスが改善された。
  論文  参考訳（メタデータ） (2026-06-09T10:22:18Z)
• DySink: Dynamic Frame Sinks for Autoregressive Long Video Generation [51.58559206569209]
  我々は,コンパクトなメモリバンクを保守し,動的フレームシンクとして視覚的に関連する歴史的フレームを選択する検索ベースのフレームワークであるDySinkを提案する。 分長ビデオの実験では、DySinkは強いベースラインよりもダイナミックな度合いを一貫して改善し、同時に時間的品質も向上している。
  論文  参考訳（メタデータ） (2026-05-20T11:01:01Z)
• Echo-Forcing: A Scene Memory Framework for Interactive Long Video Generation [48.476317015122625]
  Echo-Forcingは、インタラクティブなロングビデオ生成のためのトレーニング不要のシーンメモリフレームワークである。 キャッシュのバウンダリでスムーズなトランジション、ハードカット、長距離シーンリコールをサポートする。
  論文  参考訳（メタデータ） (2026-05-15T14:33:09Z)
• Memorize-and-Generate: Towards Long-Term Consistency in Real-Time Video Generation [33.32047364623734]
  Memorize-and-Generate(MAG)は、メモリ圧縮とフレーム生成を別々のタスクに分離するフレームワークである。 我々は、記憶モデルを訓練して、履歴情報をコンパクトなKVキャッシュに圧縮し、この圧縮された表現を用いて、後続のフレームを合成する別個のジェネレータモデルを訓練する。 実験により、MAGは標準的なビデオ生成ベンチマーク上での競争性能を維持しながら、優れた歴史的一貫性を実現することが示された。
  論文  参考訳（メタデータ） (2025-12-21T14:02:53Z)
• MemFlow: Flowing Adaptive Memory for Consistent and Efficient Long Video Narratives [54.07515675393396]
  既存のソリューションは、事前に定義された戦略で過去のフレームを圧縮することでメモリを維持する。 我々はこの問題に対処するためにMemFlowを提案する。 MemFlowは、無視可能な負担を伴う、卓越した長いコンテキスト整合性を実現する。
  論文  参考訳（メタデータ） (2025-12-16T18:59:59Z)
• InfLVG: Reinforce Inference-Time Consistent Long Video Generation with GRPO [73.33751812982342]
  InfLVGは、追加のロングフォームビデオデータを必要としないコヒーレントなロングビデオ生成を可能にする推論時フレームワークである。 InfLVGはビデオ長を最大9$times$まで拡張でき、シーン間の一貫性とセマンティック忠実性を実現することができる。
  論文  参考訳（メタデータ） (2025-05-23T07:33:25Z)
• Frame Context Packing and Drift Prevention in Next-Frame-Prediction Video Diffusion Models [63.99949971803903]
  ビデオ生成のための次フレーム(または次フレーム)予測モデルをトレーニングするためのニューラルネットワーク構造であるFramePackを提案する。 FramePackは入力フレームコンテキストをフレーム単位の重要度で圧縮し、より多くのフレームを固定されたコンテキスト長内にエンコードする。 既存のビデオ拡散モデルをFramePackで微調整できることを示し、異なるパッキングスケジュールの違いを分析する。
  論文  参考訳（メタデータ） (2025-04-17T04:02:31Z)
• History-Guided Video Diffusion [61.03681839276652]
  DFoTによって一意に実現されたガイダンス手法であるHistory Guidanceを紹介する。 より先進的な方法、時間と周波数をまたいだ履歴ガイダンスは、運動力学をさらに強化する。 プロジェクトウェブサイト: https://boyuan.space/history-guidance.com
  論文  参考訳（メタデータ） (2025-02-10T18:44:25Z)
• Ada-VE: Training-Free Consistent Video Editing Using Adaptive Motion Prior [13.595032265551184]
  ビデオ間合成は、キャラクタ一貫性の維持、スムーズな時間遷移、高速動作時の視覚的品質の維持において大きな課題となる。 本稿では,冗長計算を選択的に削減する適応型動き誘導型クロスフレームアテンション機構を提案する。 これにより、同じ計算予算内でより多くのフレームにクロスフレームの注意を向けることができる。
  論文  参考訳（メタデータ） (2024-06-07T12:12:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。