論文の概要: Rollout-Marginal Distillation for Long-Horizon Autoregressive Video Generation
- arxiv url: http://arxiv.org/abs/2609.37925v1
- Date: Tue, 29 Sep 2026 16:16:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.732393
- Title: Rollout-Marginal Distillation for Long-Horizon Autoregressive Video Generation
- Title(参考訳): 長軸自己回帰ビデオ生成のためのロールアウト・マルジナル蒸留
- Abstract要約: オートレグレッシブ(AR)ビデオ拡散は低レイテンシでストリーミング可能なビデオ生成を可能にする。
自前のロールアウトでジェネレータを訓練すると、それを不完全な履歴として公開する。
RMD(Rollout-Marginal Distillation)は、より鮮明な視覚的品質の信号を提供する。
- 参考スコア(独自算出の注目度): 31.054330225297463
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autoregressive (AR) video diffusion enables low-latency, streamable video generation, but prediction errors often accumulate over long rollouts. Training the generator on its own rollouts exposes it to these imperfect histories. However, existing video-level distribution matching distillation (DMD) scores the whole rollout jointly. Because a chunk is evaluated together with its past and future, its correction can favor matching artifacts in the surrounding context merely to preserve temporal consistency. To provide a clearer visual-quality signal, we introduce Rollout-Marginal Distillation (RMD). RMD retains the generated history for AR prediction but scores each chunk independently against a chunk teacher, ensuring its quality correction is not compromised by an imperfect temporal context. To compensate for the lack of temporal context in independent chunk scoring, RMD subsequently applies video-level DMD to restore temporal coherence. Extensive experiments demonstrate that RMD maintains high visual quality far beyond its training horizon and outperforms video-level DMD baselines. Code and video results are available at https://cjeen.github.io/RMD
- Abstract(参考訳): 自己回帰(AR)ビデオ拡散は低レイテンシでストリーミング可能なビデオ生成を可能にするが、予測エラーは長時間のロールアウトで蓄積されることが多い。
自前のロールアウトでジェネレータを訓練すると、これら不完全な履歴が露出する。
しかし、既存のビデオレベルの分散マッチング蒸留(DMD)は、ロールアウト全体を共同でスコアする。
チャンクは過去と未来と共に評価されるため、その補正は時間的一貫性を維持するためだけに周囲の文脈で一致するアーティファクトを選択することができる。
より鮮明な視覚的品質の信号を提供するため,ロールアウトマージナル蒸留(RMD)を導入する。
RMDは、生成したAR予測履歴を保持するが、チャンク教師とは独立して各チャンクをスコアし、その品質補正が不完全な時間的文脈によって損なわれないようにする。
独立したチャンクスコアリングにおける時間的文脈の欠如を補うため、RMDはその後、時間的コヒーレンスを回復するためにビデオレベルDMDを適用した。
大規模な実験により、RMDはトレーニングの地平線を超えて高い視品質を維持し、ビデオレベルのDMDベースラインを上回っていることが示された。
コードとビデオの結果はhttps://cjeen.github.io/RMDで公開されている。
関連論文リスト
- DyMD: Preserving Interaction Dynamics through Distribution Matching Distillation in Few-Step Video World Models [25.918853227970885]
分散マッチング蒸留(DMD)は、数ステップのビデオ生成を可能にする。
弱い再雑音は、教師が運動不足のロールアウトの近くに後続に集中させます。
強い動きのロールアウトは、より大きなフェイクスコアのフィッティングエラーを引き起こす傾向がある。
教師の指導と批判を両立させるDyMDフレームワークを提案する。
論文 参考訳(メタデータ) (2026-09-25T14:47:17Z) - ViRDM: Taming Representation Distribution Matching for Few-Step Causal Video Generation [24.773587278828675]
ViRDMは教師と批評家のいないポストトレーニングのレシピである。
3ネットワーク蒸留を発電機のみのポストトレーニングに変換する。
ジェネレータの更新はわずか20回で、公式のVBench評価では84.87回に達した。
論文 参考訳(メタデータ) (2026-09-24T02:07:07Z) - Context-Matched Distillation: Teacher Causality for Autoregressive Video Distillation [97.02922768457239]
Context-Matched Distillation (CMD) は、教師の監督と、各ターゲットが生成される際に利用可能な情報とを整合させる因果的MDDフレームワークである。
Prefix Corruptionは、このターゲットコンテキストアライメントを維持しながら、トレーニングの初期段階で生成された信頼性の低いプレフィックスを摂動することで、トレーニングを安定化させる。
ショートビデオとロングビデオの両方のベンチマークで、自己回帰手法における最先端の集約性能を実証した。
論文 参考訳(メタデータ) (2026-08-13T15:51:31Z) - Self Gradient Forcing: Native Long Video Extrapolation [60.00513917489133]
自己グラディエント強制は、歴史的文脈-段階的ギャップを回復する。
コードとモデルがリリースされ、自動回帰ビデオ生成の研究が進められる。
論文 参考訳(メタデータ) (2026-07-22T16:59:23Z) - OPSD-V: On-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators [68.69611976783243]
OPSD-Vは、数ステップの自己回帰(AR)ビデオ拡散モデルの訓練後の自己蒸留パラダイムである。
鍵となるアイデアは、トレーニング中の時間的文脈として実際の長時間ビデオデータを導入し、それを高密度な軌跡レベルの監視に使用することである。
実験では、視覚的品質、運動力学、VBenchLongスコアが一貫した改善を示している。
論文 参考訳(メタデータ) (2026-07-09T17:59:11Z) - RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPO [53.38929612273108]
因果自己回帰ビデオ拡散モデルは、以前生成されたコンテンツから将来のチャンクを外挿することでリアルタイムストリーミング生成をサポートする。
本稿では,リアルタイム自動回帰ビデオ補間ネットワーク(RAVEN)を紹介した。これは,各自己ロールアウトを,クリーンな歴史的エンドポイントのインターリーブシーケンスに再パッケージするトレーニングタイムテストフレームワークである。
論文 参考訳(メタデータ) (2026-05-14T17:59:30Z) - Stable Video Infinity: Infinite-Length Video Generation with Error Recycling [76.91310169118408]
本研究では、高時間一貫性、可視的シーン遷移、制御可能なストリーミングストーリーラインを有する無限長ビデオを生成することができる安定ビデオインフィニティ(SVI)を提案する。
SVIにはError-Recycling Fine-Tuningが組み込まれており、これはDiffusion Transformerの自己生成エラーをスーパーバイザのプロンプトにリサイクルする、新しいタイプの効率的なトレーニングである。
我々は、一貫性、創造性、条件設定を含む3つのベンチマークでSVIを評価し、その汎用性と最先端の役割を徹底的に検証した。
論文 参考訳(メタデータ) (2025-10-10T09:45:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。