論文の概要: Recency Forcing: Bridging the Long-Horizon Gap in Autoregressive Video Generation

• arxiv url: http://arxiv.org/abs/2609.19729v1
• Date: Thu, 17 Sep 2026 05:40:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.118048
• Title: Recency Forcing: Bridging the Long-Horizon Gap in Autoregressive Video Generation
• Title（参考訳）: 自己回帰ビデオ生成における長距離ギャップのブリッジ化
• Abstract要約: オートレグレッシブ(AR)ビデオ生成は、見過ごされた列車干渉の相違により、長い地平線上で劣化する。 我々は,非正の時間ステップ依存バイアスを適用したRecency Forcingを提案し,TRB (Temporal Response Bias) と呼ぶ。 VBenchとVBench-Longの実験では、最先端のロングホライゾン生成の品質を追加の推論コストなしで実証している。
• 参考スコア（独自算出の注目度）: 12.401928400782667
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autoregressive (AR) video generation degrades over long horizons due to an overlooked train-inference discrepancy we term KV eviction mismatch: models train on short clips where all context frames reside in the KV cache, but at inference, memory constraints force distant frames to be evicted from the KV cache - removing context the model was conditioned on. Rather than simulating eviction via context truncation - which discards temporal information the model still needs and degrades motion coherence - we keep the context but while progressively reducing the influence of distant frames, making their eventual eviction negligible. To guide this design, we introduce the positional response $R( Δ, \, t_{\text{denoise}})$, a perturbation-based sensitivity measure revealing that context influence decays steeply with temporal distance and varies systematically across denoising steps. Motivated by this analysis, we propose Recency Forcing, which applies a non-positive, timestep-dependent bias, termed Temporal Response Bias (TRB), on pre-softmax attention logits derived directly from $R$, closing the train-inference gap without modifying context length or training objectives. We further introduce Biased Attention Reparameterization (BAR), an exact reformulation that moves the bias outside the softmax, making TRB a standard FlashAttention call at zero overhead. Recency Forcing operates in both training-free mode and training-based mode. Experiments on VBench and VBench-Long demonstrate state-of-the-art long-horizon generation quality at no additional inference cost.
• Abstract（参考訳）: オートレグレッシブ(AR)ビデオ生成は、見過ごされた列車推論の相違により、長い地平線上で劣化する。 KV消去ミスマッチ(KV eviction mismatch): すべてのコンテキストフレームがKVキャッシュに存在するショートクリップでトレーニングされるが、推論時には、メモリ制約により、KVキャッシュから遠くのフレームを排除せざるを得なくなる。 時間的情報を捨て、動きのコヒーレンスを低下させる、文脈トランケーションによる排除をシミュレートする代わりに、コンテキストを維持しながら、遠くのフレームの影響を徐々に減らし、最終的な排除を無視する。 この設計を導くために、位置応答 $R(Δ, \, t_{\text{denoise}})$, 摂動に基づく感度尺度を導入する。 この分析によって動機づけられたRecency Forcingは、時間的応答バイアス(TRB)と呼ばれる非正の時間的偏りを、R$から直接派生したソフトマックス前の注意ログに適用し、文脈の長さや訓練目的を変更することなく列車の干渉ギャップを閉じる。 さらに、BAR(Biased Attention Reparameterization)を導入し、そのバイアスをソフトマックスの外に移動させ、TRBを標準のFlashAttentionコールとしてオーバーヘッドゼロにする。 Recency Forcingは、トレーニングフリーモードとトレーニングベースモードの両方で動作する。 VBenchとVBench-Longの実験では、最先端のロングホライゾン生成の品質を追加の推論コストなしで実証している。

関連論文リスト

• Self Gradient Forcing: Native Long Video Extrapolation [60.00513917489133]
  自己グラディエント強制は、歴史的文脈-段階的ギャップを回復する。 コードとモデルがリリースされ、自動回帰ビデオ生成の研究が進められる。
  論文  参考訳（メタデータ） (2026-07-22T16:59:23Z)
• Where to Refine, When to Stop: Rethinking Redundancy via Latent Discrepancy for Efficient Visual Autoregressive Generation [50.139984798361375]
  遅延不一致による冗長性を除去する学習自由フレームワークを提案する。 LD-Pruningは、Infinity-8Bの最大2.35倍のスピードアップを実現し、高い生成品質を維持しながら推論を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-29T19:34:39Z)
• FIS-DiT: Breaking the Few-Step Video Inference Barrier via Training-Free Frame Interleaved Sparsity [23.184639887235218]
  ビデオ拡散変換器(DiT)はモデルによって大幅に削減できるが、ステップごとの推論レイテンシは依然として重要なボトルネックである。 本研究では、時間軌道から潜在フレーム位置への最適化焦点をシフトさせる、トレーニング不要で演算子に依存しないフレームワークであるFrame Inter Sparsity DiT (FIS-DiT)を提案する。 FIS-DiTは、VBench-QおよびCLIPメトリクス間で無視できない劣化を伴う2.11--2.41$times$ Speedupを一貫して達成している。
  論文  参考訳（メタデータ） (2026-05-12T09:49:36Z)
• SoLAR: Error-Resilient Streamable Long-Horizon Free-Viewpoint Video Reconstruction with Anchor Activation and Latent Recalibration [57.159190580279585]
  ビット割り当て理論により、速度歪み最適化フレームワーク内で動的アンカーベースのボリュームビデオ表現を解析する。 我々は,長いシーケンスの復元品質を安定的に維持する,エラー回復性の最初のFVVフレームワークである textbfSoLAR を提案する。
  論文  参考訳（メタデータ） (2026-05-08T06:48:59Z)
• Towards Streaming Target Speaker Extraction via Chunk-wise Interleaved Splicing of Autoregressive Language Model [26.672519467929686]
  ターゲット話者抽出(TSE)のストリーミングに適した,最初の自己回帰型(AR)モデルを提案する。 提案手法では,高効率かつ安定したストリーミング推論を実現するために,チャンクワイズ・インターリーブド・スプリシング・パラダイムを導入している。 Libri2Mixの実験では、AR生成ベースラインは低レイテンシで性能劣化を示すが、本手法は100%安定性と優れた知性を維持している。
  論文  参考訳（メタデータ） (2026-04-21T16:25:22Z)
• Relax Forcing: Relaxed KV-Memory for Consistent Long Video Generation [73.84423888025171]
  オートレグレッシブ(AR)ビデオ拡散は,近年,長大なビデオ生成において有望なパラダイムとして浮上している。 時間的劣化が進行しているため, 生成から微小スケールの地平線への延長は依然として困難であることを示す。 本稿では,AR拡散のための時間記憶機構であるRelax Forcingを紹介する。
  論文  参考訳（メタデータ） (2026-03-22T18:59:24Z)
• HiAR: Efficient Autoregressive Long Video Generation via Hierarchical Denoising [52.237486207964245]
  HiARは階層的なデノベーションフレームワークで、従来の世代順を逆転させる。 発声ステップ毎に全てのブロックを因果生成し、各ブロックが常に同じノイズレベルでコンテキストで条件付けされるようにする。 VBench(20世代)では、HiARは比較したすべての方法の中で最高の総合スコアと最低時間ドリフトを達成する。
  論文  参考訳（メタデータ） (2026-03-09T17:58:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。