論文の概要: History Forcing: Distilling History-Dependent Continuations for Long-Horizon Video World Models
- arxiv url: http://arxiv.org/abs/2611.02782v1
- Date: Mon, 02 Nov 2026 09:00:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:54:28.391669
- Title: History Forcing: Distilling History-Dependent Continuations for Long-Horizon Video World Models
- Title(参考訳): 歴史強制:長期ビデオワールドモデルにおける歴史依存継続の蒸留
- Abstract要約: 我々は,数ステップの自己回帰ビデオジェネレータの歴史的監督を強化する,統合型オンライン蒸留フレームワークであるtextbfHistory Forcingを紹介した。
VBenchの品質スコアが85.07、VBench-Long集約スコアが79.82である。
- 参考スコア(独自算出の注目度): 31.383528359153136
- License:
- Abstract: Few-step autoregressive video diffusion enables efficient generation, yet maintaining consistency over long rollouts remains challenging, especially when subjects or scenes reappear after going out of sight. Despite progress in fidelity and rollout robustness, existing distillation methods do not fully exploit richer historical information to constrain the student's current prediction. To address this gap, we introduce \textbf{History Forcing}, a unified on-policy distillation framework that strengthens historical supervision for few-step autoregressive video generators. The framework uses the residual between teacher predictions with and without informative historical context to decouple this supervision. Such a historical context can be obtained using earlier generated chunks with less accumulated drift or a fixed-view teacher rollout that keeps the scene visible while the student looks away. The residual is then weighted and added to the score or velocity prediction used for distillation, forming a corrected target. By aligning the student with this corrected target through distillation, History Forcing incorporates long-range historical constraints into autoregressive generation. Our method achieves state-of-the-art performance among 1.3B models, with a VBench quality score of 85.07 for 15s video generation and a VBench-Long aggregate score of 79.82 for 60s generation. For out-of-sight world modeling, evaluations further demonstrate more plausible scene evolution and more consistent states when the camera returns, with Evolution Quality improving from 2.35 to 2.70 on PlayWorld and Object Consistency from 58.43 to 62.18 on MemoBench.
- Abstract(参考訳): 数ステップの自己回帰ビデオ拡散は、効率的な生成を可能にするが、長時間のロールアウトに対する一貫性を維持することは困難であり、特に視界を外した後、被写体やシーンが再び現れる。
忠実さとロールアウトロバストさの進歩にもかかわらず、既存の蒸留法は学生の現在の予測を抑えるために、より豊かな歴史的情報を十分に活用していない。
このギャップに対処するために,数ステップの自己回帰ビデオジェネレータの歴史的監督を強化する統合型オンライン蒸留フレームワークである‘textbf{History Forcing} を導入する。
このフレームワークは教師の予測の残余を、この監督を分離するために、情報的かつ歴史的文脈なしで利用する。
このような歴史的文脈は、蓄積の少ない初期生成されたチャンクや、学生が目をそらしながらシーンを見えるに保つ固定ビューの教師ロールアウトを用いて得ることができる。
その後、残余を加重し、蒸留に使用するスコアまたは速度予測に追加し、補正対象とする。
蒸留により、学生をこの修正対象に合わせることで、ヒストリーフォースは長距離の歴史的制約を自己回帰世代に組み込む。
VBenchの品質スコアが85.07、VBench-Long集約スコアが79.82である。
視界外モデリングでは、カメラが戻るとより可塑性なシーンの進化とより一貫した状態が示され、進化的品質はPlayWorldで2.35から2.70に改善され、オブジェクト一貫性はMemoBenchで58.43から62.18に改善された。
関連論文リスト
- Remembering What Matters for Long-Horizon Robotic World Models [64.28254560014945]
ReCAP(Receding Context with Anchor Preservation)は、長距離ロボットビデオワールドモデルのためのトレーニング不要なコンテキストスケジューリング手法である。
凍結自己回帰世界モデルを用いてRT-1,BridgeV2,LIBERO-90,CALVIN上のReCAPを評価する。
論文 参考訳(メタデータ) (2026-10-10T05:01:17Z) - Rollout-Marginal Distillation for Long-Horizon Autoregressive Video Generation [31.054330225297463]
オートレグレッシブ(AR)ビデオ拡散は低レイテンシでストリーミング可能なビデオ生成を可能にする。
自前のロールアウトでジェネレータを訓練すると、それを不完全な履歴として公開する。
RMD(Rollout-Marginal Distillation)は、より鮮明な視覚的品質の信号を提供する。
論文 参考訳(メタデータ) (2026-09-29T16:16:37Z) - Rethinking Streaming Video Diffusion Model: Context, Execution, and Training [0.0]
本研究では,モデル選択とサンプル選択,履歴条件付け,実行スケジューリング,トレーニング戦略に関連する統合分析フレームワークを開発する。
クリーン, 同レベル, プログレッシブの3つの代表的な政策について検討する。
複数のノードをまとめて処理することで、プログレッシブ・ヒストリー・パイプライニングは1.57$-$2.83times$static-state DiTスピードアップを達成する。
論文 参考訳(メタデータ) (2026-09-13T03:49:06Z) - Context-Matched Distillation: Teacher Causality for Autoregressive Video Distillation [97.02922768457239]
Context-Matched Distillation (CMD) は、教師の監督と、各ターゲットが生成される際に利用可能な情報とを整合させる因果的MDDフレームワークである。
Prefix Corruptionは、このターゲットコンテキストアライメントを維持しながら、トレーニングの初期段階で生成された信頼性の低いプレフィックスを摂動することで、トレーニングを安定化させる。
ショートビデオとロングビデオの両方のベンチマークで、自己回帰手法における最先端の集約性能を実証した。
論文 参考訳(メタデータ) (2026-08-13T15:51:31Z) - Self Gradient Forcing: Native Long Video Extrapolation [60.00513917489133]
自己グラディエント強制は、歴史的文脈-段階的ギャップを回復する。
コードとモデルがリリースされ、自動回帰ビデオ生成の研究が進められる。
論文 参考訳(メタデータ) (2026-07-22T16:59:23Z) - OPSD-V: On-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators [68.69611976783243]
OPSD-Vは、数ステップの自己回帰(AR)ビデオ拡散モデルの訓練後の自己蒸留パラダイムである。
鍵となるアイデアは、トレーニング中の時間的文脈として実際の長時間ビデオデータを導入し、それを高密度な軌跡レベルの監視に使用することである。
実験では、視覚的品質、運動力学、VBenchLongスコアが一貫した改善を示している。
論文 参考訳(メタデータ) (2026-07-09T17:59:11Z) - LIVE: Long-horizon Interactive Video World Modeling [39.52605866460851]
Long-Horizon Interactive Video world modElは、新しいサイクル一貫性の目的を通じて境界付きエラー蓄積を実行する。
Liveはロングホライゾンベンチマークで最先端のパフォーマンスを達成し、ロールアウト期間のトレーニングを超えて、安定した高品質のビデオを生成する。
論文 参考訳(メタデータ) (2026-02-03T17:10:03Z) - End-to-End Training for Autoregressive Video Diffusion via Self-Resampling [63.84672807009907]
自己回帰ビデオ拡散モデルは、世界シミュレーションの可能性を保っているが、列車テストミスマッチに起因する露出バイアスに弱い。
教師なしのフレームワークであるResampling Forcingを導入し、スクラッチから大規模まで自動回帰ビデオモデルのトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-12-17T18:53:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。