論文の概要: ViRDM: Taming Representation Distribution Matching for Few-Step Causal Video Generation

• arxiv url: http://arxiv.org/abs/2609.28923v1
• Date: Thu, 24 Sep 2026 02:07:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.664881
• Title: ViRDM: Taming Representation Distribution Matching for Few-Step Causal Video Generation
• Title（参考訳）: ViRDM:フットステップ因果ビデオ生成のためのタミング表現分布マッチング
• Abstract要約: ViRDMは教師と批評家のいないポストトレーニングのレシピである。 3ネットワーク蒸留を発電機のみのポストトレーニングに変換する。 ジェネレータの更新はわずか20回で、公式のVBench評価では84.87回に達した。
• 参考スコア（独自算出の注目度）: 24.773587278828675
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-step autoregressive (AR) video diffusion enables low-latency streaming generation, but existing post-training methods predominantly rely on Distribution Matching Distillation (DMD), requiring both a large pretrained teacher and an online critic to estimate distributional discrepancies through diffusion scores. In this work, we ask whether this resource-intensive teacher--critic stack can be eliminated by post-training only the generator against a precomputed target distribution. Drawing inspiration from representation distribution matching (RDM) for one-step image generation, we systematically study its transfer to few-step causal video generation and identify three key barriers: a memory-intractable gradient path, a distinct video optimization regime, and representation distributions that underconstrain temporal dynamics. We introduce ViRDM, a teacher- and critic-free video post-training recipe that addresses these barriers sequentially. By coupling RDM with stochastically truncated clean-exit supervision, a lightweight VAE decoder, and staged vector--Jacobian products, ViRDM makes representation distribution matching memory-feasible for multi-step causal video rollouts. We further establish effective generated-population and initialization regimes for video RDM, and introduce lightweight dynamics regularization to compensate for the underconstrained temporal dynamics. ViRDM turns three-network distillation into generator-only post-training, reducing GPU memory use and training time while improving video quality. With only 20 generator updates, the recipe reaches 84.87 on the official VBench evaluation, outperforming the previous best few-step causal baseline by 0.36, while requiring 16 A100 GPU-hours. We additionally report exploratory results demonstrating the potential of the same recipe for lower causal sampling budget and for one-, two-, and four-step bidirectional generation.
• Abstract（参考訳）: 数ステップの自己回帰(AR)ビデオ拡散は低レイテンシなストリーミング生成を可能にするが、既存のポストトレーニング手法は主に分散マッチング蒸留(DMD)に依存しており、大きな事前学習の教師とオンライン評論家の両方が拡散スコアによって分布の相違を推定する必要がある。 本研究では,この資源集約型教師批判スタックを,予め計算した目標分布に対してジェネレータのみを後処理することで除去できるかどうかを問う。 一段階画像生成のための表現分布マッチング(RDM)からインスピレーションを得た上で、その変換を数段階の因果ビデオ生成に体系的に研究し、3つの重要な障壁を識別する。 ViRDMは教師と批判のないポストトレーニングのレシピで、これらの障壁を逐次解決する。 マルチステップの因果ビデオロールアウトにおいて、RDMと確率的に切り離されたクリーンエグジット監視、軽量なVAEデコーダ、ステージドベクター-ヤコビアン製品とを結合することにより、VRDMはメモリ分布に一致したメモリ分布を表現可能とする。 さらに,ビデオRDMの効率的な生成集団化と初期化体制を確立し,制約の少ない時間的ダイナミクスを補うために,軽量なダイナミックス正規化を導入する。 ViRDMは、3ネットワーク蒸留をジェネレータのみのポストトレーニングに変換し、GPUメモリの使用とトレーニング時間を短縮し、ビデオ品質を改善している。 わずか20回のジェネレータ更新で、公式のVBench評価では84.87に到達し、これまでの最高の数ステップの因果ベースラインを0.36で上回り、16A100GPU時間を必要とした。 また,1段階,2段階,4段階の双方向生成において,同じレシピの有効性を示す探索結果も報告した。

関連論文リスト

• Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout [28.90854720290184]
  DMD(Distribution Matching Distillation)を通して、訓練済み双方向ビデオ拡散モデルから因果AR学生を抽出する最近の方法 生成されたビデオは、しばしば過飽和と過スムースな問題に悩まされ、視覚的品質とリアリズムが制限される。 本研究では,モード崩壊を緩和するために,AR学生の自己ロールアウトを妨害するデュアルノイズマスキング・ロールアウト戦略であるマスクフォーシングを提案する。
  論文  参考訳（メタデータ） (2026-09-08T17:50:05Z)
• RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPO [53.38929612273108]
  因果自己回帰ビデオ拡散モデルは、以前生成されたコンテンツから将来のチャンクを外挿することでリアルタイムストリーミング生成をサポートする。 本稿では,リアルタイム自動回帰ビデオ補間ネットワーク(RAVEN)を紹介した。これは,各自己ロールアウトを,クリーンな歴史的エンドポイントのインターリーブシーケンスに再パッケージするトレーニングタイムテストフレームワークである。
  論文  参考訳（メタデータ） (2026-05-14T17:59:30Z)
• Reward Forcing: Efficient Streaming Video Generation with Rewarded Distribution Matching Distillation [69.57572900337176]
  本稿では,効率的なストリーミングビデオ生成のための新しいフレームワークであるReward Forcingを紹介する。 EMA-Sinkトークンは、長期コンテキストと最近のダイナミクスの両方をキャプチャし、初期フレームコピーを防ぐ。 Re-DMDは、視覚言語モデルにより評価されたより大きなダイナミックスを持つサンプルを優先順位付けすることで、モデル出力分布を高逆領域にバイアスする。
  論文  参考訳（メタデータ） (2025-12-04T11:12:13Z)
• Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis [65.77083310980896]
  本稿では, 実測値と偽測値の間に潜時予測を整列させる適応分布マッチング (ADM) を提案する。 提案手法は,DMD2と比較してSDXLの1ステップ性能に優れ,GPU時間が少ない。 SD3-Medium, SD3.5-Large, CogVideoX に多段階の ADM 蒸留を適用した実験では, 画像と映像の効率的な合成に向けた新しいベンチマークが設定された。
  論文  参考訳（メタデータ） (2025-07-24T16:45:05Z)
• From Slow Bidirectional to Fast Autoregressive Video Diffusion Models [48.35054927704544]
  現在のビデオ拡散モデルは、印象的な生成品質を実現するが、双方向の注意依存のため、インタラクティブなアプリケーションに苦戦する。 この制限には、事前訓練された双方向拡散変換器を自己回帰変換器に適応させ、フレームをオンザフライで生成することで対処する。 我々のモデルは、VBench-Longベンチマークで84.27点のスコアを達成し、以前のすべてのビデオ生成モデルを上回った。
  論文  参考訳（メタデータ） (2024-12-10T18:59:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。