論文の概要: In-Distribution Forcing for Long Video Generation at Test Time

• arxiv url: http://arxiv.org/abs/2610.03120v1
• Date: Fri, 02 Oct 2026 10:40:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.333598
• Title: In-Distribution Forcing for Long Video Generation at Test Time
• Title（参考訳）: テスト時間における長時間ビデオ生成のイン・ディストリビューション強制
• Abstract要約: In-Distribution Forcingは、KVキャッシュとKVコンディショニングをトレーニング設定に整合させるテストタイムフレームワークである。 本手法は,ドリフトを緩和する作業において,従来よりもはるかに優れた性能を保ちながら,標準ビデオ生成ベンチマークにおいて競争力を維持している。
• 参考スコア（独自算出の注目度）: 28.307065187017614
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern autoregressive (AR) video diffusion models excel at short-horizon video generation, yet generating long videos remains challenging due to drifting, where colors and textures shift, and motion dynamics decay. Existing works primarily rely on KV conditioning, which selects or modifies cached key-value (KV) entries to mitigate drifting. However, we observe that KV conditioning alone is insufficient as it assumes cached KV entries remain in-distribution. This assumption fails beyond the training horizon: nothing constrains the construction of KV entries during rollout, giving rise to the KV-provenance problem where cached entries themselves become out-of-distribution (OOD). To address this, we propose In-Distribution Forcing (ID-Forcing), a test-time framework that aligns both KV caching and KV conditioning with training configurations. Its key mechanism, self-caching, prevents OOD KV entries at their source. Each chunk is cached without attending to prior KV entry, keeping the rolling window exactly in-distribution. Consequently, ID-Forcing seamlessly extends short-horizon models to minute-scale video generation. Extensive evaluations show that our method remains competitive on standard video generation benchmark while substantially outperforming prior work in mitigating drifting, as validated by both our drift metrics and a user study.
• Abstract（参考訳）: 現代の自己回帰(AR)ビデオ拡散モデルは、短い水平ビデオ生成時に優れているが、色やテクスチャが変化し、動きのダイナミクスが崩壊する漂流のため、長いビデオを生成することは依然として困難である。 既存の作業は主にKVコンディショニングに依存しており、ドリフトを緩和するためにキャッシュされたキー値(KV)エントリを選択するか変更する。 しかし,KVコンディショニングだけでは,キャッシュされたKVエントリが流通途上であることを前提に,KVコンディショニングが不十分である。 ロールアウト中にKVエントリの構成を制約することはなく、キャッシュされたエントリ自体が配布外(OOD)となるKVプロビタンス問題を引き起こす。 そこで本研究では,KVキャッシュとKVコンディショニングをトレーニング設定に整合させるテストタイムフレームワークであるIn-Distribution Forcing(ID-Forcing)を提案する。 そのキーとなるメカニズムであるセルフキャッシングは、OOD KVのソースへのエントリを阻止する。 各チャンクは、以前のKVエントリに参加せずにキャッシュされ、ローリングウィンドウは正確に分配される。 その結果、ID-Forcingはショートホライズンモデルからミニスケールビデオ生成までシームレスに拡張する。 ドリフト指標とユーザスタディの両方で検証したように,ドリフトの緩和における先行作業よりもはるかに優れておりながら,本手法は標準ビデオ生成ベンチマークにおいて競争力を維持している。

関連論文リスト

• RedKnot: Efficient Long-Context LLM Serving with Head-Aware KV Reuse and SegPagedAttention [20.633983983180812]
  LLMサービスのためのヘッドアウェアKVキャッシュ管理システムであるRedKnotを提案する。 RedKnotは、KVヘッドに沿ってKVキャッシュを分解することで、従来のモノリシックなKVキャッシュの抽象化を破る。
  論文  参考訳（メタデータ） (2026-06-04T14:57:07Z)
• Salt: Self-Consistent Distribution Matching with Cache-Aware Training for Fast Video Generation [27.698320788533405]
  軌道式整合蒸留(DMD)は、鋭いモード探索サンプルを回収することができるが、その局所的な訓練信号は、時間経過で更新がどのように構成されるかを明確に定めていない。 本稿では,連続的なデノナイジング更新の終端一致合成を明示的に規則化する自己持続分布マッチング蒸留(SC-DMD)を提案する。
  論文  参考訳（メタデータ） (2026-04-03T15:43:21Z)
• Past- and Future-Informed KV Cache Policy with Salience Estimation in Autoregressive Video Diffusion [53.14908419375226]
  既存のアプローチは一般的にKVキャッシュポリシーに依存しており、長期のビデオ生成におけるトークンの重要性の違いを無視している。 我々は,過去・未来型KVキャッシュポリシー(PaFu-KV)を提案する。 特にPaFu-KVは、双方向キャッシュ教師から抽出した軽量なサリエンス推定ヘッドを導入し、サリエンススコアを推定する。 このポリシーは、KVキャッシュ容量を小さくし、推論時にメモリフットプリントを減らすことで、より良い品質効率のトレードオフをもたらす。
  論文  参考訳（メタデータ） (2026-01-29T15:55:29Z)
• StreamKV: Streaming Video Question-Answering with Segment-based KV Cache Retrieval and Compression [95.59657871147846]
  我々は,ビデオLLMと高度なKVキャッシュの検索と圧縮をシームレスに行うフレームワークである textbfStreamKV を提案する。 公開StreamingVQAベンチマークの実験では、StreamKVが既存のオンラインビデオ-LLMを著しく上回っていることが示されている。
  論文  参考訳（メタデータ） (2025-11-10T16:25:03Z)
• Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion [67.94300151774085]
  本稿では,自己回帰ビデオ拡散モデルのための新しい訓練パラダイムであるSelf Forcingを紹介する。 露光バイアスの長年の問題に対処し、地道的な文脈で訓練されたモデルは、自身の不完全な出力で条件付けられたシーケンスを生成する必要がある。
  論文  参考訳（メタデータ） (2025-06-09T17:59:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。