論文の概要: PDMD: Projected Distribution Matching Distillation for Video Diffusion Models

• arxiv url: http://arxiv.org/abs/2609.35768v1
• Date: Mon, 28 Sep 2026 17:59:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 19:04:22.495742
• Title: PDMD: Projected Distribution Matching Distillation for Video Diffusion Models
• Title（参考訳）: PDMD:ビデオ拡散モデルにおける分布マッチング蒸留の計画
• Abstract要約: 本稿では,予測分布マッチング蒸留PD (MD) を導入し,批判誤差をフィルタする。 PDDは、学生が批判するエンドポイントの残差に平行してDMD更新のコンポーネントを投影する。 PDDはMDDへの1行のコードだけで、余分な損失、ネットワーク、データ、モデルパス、マルチステージトレーニングは不要である。
• 参考スコア（独自算出の注目度）: 32.89345629335096
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern video diffusion models require tens of denoising evaluations over long spatiotemporal token sequences. Distribution Matching Distillation (DMD) reduces the number of function evaluations (NFE) to just a few. However, DMD samples can degrade during training, exhibiting progressive oversaturation and artifacts. We trace this instability to critic errors, which enter successive student updates and accumulate over time. We introduce Projected Distribution Matching Distillation (PDMD) to filter critic errors. PDMD projects out the component of the DMD update parallel to the student-critic endpoint residual. At a fixed noisy query, we prove that this residual is an unbiased estimate of the critic's endpoint error. Under high-dimensional assumptions, this projection removes a constant fraction of critic error while discarding only a vanishing fraction of ideal DMD signal. Empirically, the projection stabilizes training and improves sample quality where DMD degrades and develops unnatural textures. PDMD requires only a one-line code change to DMD, with no extra loss, network, data, model pass, or multi-stage training. With Wan2.1, PDMD achieves a VBench total score of 83.73 at 4 NFE, surpassing matched DMD by 1.03 points. On MiniMax-H3 joint video-audio generation, PDMD achieves a VideoGen-Eval visual total score of 83.17, 0.41 points above the strongest distilled baseline. PDMD also achieves the best performance on all six audio metrics among the compared 4-NFE models. Qualitative comparisons and user studies favor PDMD over the distilled baselines in visual quality, motion, and audio quality. Code and models are available at https://pdmd2026.github.io/.
• Abstract（参考訳）: 現代のビデオ拡散モデルでは、長い時空間トークン列に対する数十のノイズ評価が必要である。 分散マッチング蒸留(DMD)は機能評価(NFE)の数をわずかに削減する。 しかし、DMDサンプルは訓練中に劣化し、進行性の過飽和と人工物を示す。 我々は、この不安定さを、学生の継続的な更新と時間の経過とともに蓄積するエラーを批判するために追跡する。 予測分布マッチング蒸留 (PDMD) を導入し, 批判誤差をフィルタする。 PDMDは、学生が批判するエンドポイントの残差に平行してDMD更新のコンポーネントを投影する。 固定ノイズクエリでは、この残差が批評家の終端誤差の偏りのない推定値であることを証明する。 高次元の仮定の下では、この投影は、理想的なMDD信号の消滅率のみを捨てながら、批判誤差の一定割合を除去する。 実証的に、プロジェクションはトレーニングを安定させ、DMDが劣化し不自然なテクスチャを発達するサンプル品質を改善する。 PDMDは1行のコードの変更だけで、余分な損失、ネットワーク、データ、モデルパス、マルチステージトレーニングは不要である。 Wan2.1では、PDMDは4 NFEでVBenchトータルスコア83.73を獲得し、マッチしたDMDを1.03ポイント上回った。 MiniMax-H3ジョイントビデオオーディオでは、PDMDは最強の蒸留ベースラインより83.17,0.41ポイント高いビデオGen-Eval視覚総スコアを達成している。 PDMDはまた、比較した4-NFEモデルの中で6つのオーディオメトリクスで最高のパフォーマンスを達成している。 質的比較とユーザスタディは、視覚的品質、運動、オーディオ品質の蒸留ベースラインよりもPDMDの方が好ましい。 コードとモデルはhttps://pdmd2026.github.io/.comで公開されている。

関連論文リスト

• DyMD: Preserving Interaction Dynamics through Distribution Matching Distillation in Few-Step Video World Models [25.918853227970885]
  分散マッチング蒸留(DMD)は、数ステップのビデオ生成を可能にする。 弱い再雑音は、教師が運動不足のロールアウトの近くに後続に集中させます。 強い動きのロールアウトは、より大きなフェイクスコアのフィッティングエラーを引き起こす傾向がある。 教師の指導と批判を両立させるDyMDフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-09-25T14:47:17Z)
• Data-Forcing Distillation: Restoring Diversity and Fidelity in Few-Step Video Generation [25.352409052792122]
  単行のコード変更だけでMDDの多様性と忠実性を回復する単純なポストトレーニングフレームワークであるData-Forcing Distillation (DFD)を提案する。 我々は,我々のフレームワークの詳細な理論的分析を行い,テキスト・ツー・ビデオ,画像・ツー・ビデオ,自動回帰ビデオ生成に対する我々のアプローチを検証する。
  論文  参考訳（メタデータ） (2026-06-16T20:38:30Z)
• SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation [57.297118390628384]
  分散マッチング蒸留(DMD)は、数ステップのビデオ拡散モデルにおいて、推論を加速するための広く使われているパラダイムである。 textbfScore Gradient Matching Distillation (SGMD)を提案する。 教師の停止段階のフィッシャーを安定した分布マッチングの目的として使用しながら、教師に対して偽スコアを直接最適化することで、偽スコアの視点を採用する。 時間的一貫性を維持しつつ、4段階蒸留モデルの運動力学を大幅に改善する。
  論文  参考訳（メタデータ） (2026-05-28T15:50:55Z)
• Phased DMD: Few-step Distribution Matching Distillation via Score Matching within Subintervals [48.14879329270912]
  フェーズドDMDは、Mixture-of-Expertsでフェーズワイド蒸留のアイデアを橋渡しする多段階蒸留フレームワークである。 位相MDDはプログレッシブな分布マッチングとサブインターバル内のスコアマッチングという2つの主要なアイデアに基づいて構築されている。 実験結果から,第2相DMDはDMDよりも出力の多様性を保ちつつ,重要な生成能力を保っていることが明らかとなった。
  論文  参考訳（メタデータ） (2025-10-31T17:55:10Z)
• Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis [65.77083310980896]
  本稿では, 実測値と偽測値の間に潜時予測を整列させる適応分布マッチング (ADM) を提案する。 提案手法は,DMD2と比較してSDXLの1ステップ性能に優れ,GPU時間が少ない。 SD3-Medium, SD3.5-Large, CogVideoX に多段階の ADM 蒸留を適用した実験では, 画像と映像の効率的な合成に向けた新しいベンチマークが設定された。
  論文  参考訳（メタデータ） (2025-07-24T16:45:05Z)
• Improved Distribution Matching Distillation for Fast Image Synthesis [54.72356560597428]
  この制限を解除し、MDDトレーニングを改善する一連の技術であるMDD2を紹介する。 まず、回帰損失と高価なデータセット構築の必要性を排除します。 第2に, GAN損失を蒸留工程に統合し, 生成した試料と実画像との識別を行う。
  論文  参考訳（メタデータ） (2024-05-23T17:59:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。