論文の概要: DyMD: Preserving Interaction Dynamics through Distribution Matching Distillation in Few-Step Video World Models
- arxiv url: http://arxiv.org/abs/2609.31349v1
- Date: Fri, 25 Sep 2026 14:47:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.443866
- Title: DyMD: Preserving Interaction Dynamics through Distribution Matching Distillation in Few-Step Video World Models
- Title（参考訳）: DyMD:Few-Step Video World Modelにおける分布マッチング蒸留によるインタラクションダイナミクスの保存
- Abstract要約: 分散マッチング蒸留(DMD)は、数ステップのビデオ生成を可能にする。
弱い再雑音は、教師が運動不足のロールアウトの近くに後続に集中させます。
強い動きのロールアウトは、より大きなフェイクスコアのフィッティングエラーを引き起こす傾向がある。
教師の指導と批判を両立させるDyMDフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 25.918853227970885
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large video diffusion models offer expressive priors for embodied prediction and learning, yet their many-step sampling remains costly for interactive downstream use. Distribution Matching Distillation (DMD) enables few-step video generation, but can suppress robot--object motion while preserving visual quality. Examining DMD's teacher and fake-score signals, we find that weak re-noising keeps the teacher posterior concentrated near motion-deficient rollouts, limiting motion-restoring guidance. Meanwhile, stronger-motion rollouts tend to incur larger fake-score fitting errors, which can hinder the generator's learning of interaction dynamics. We propose DyMD, a DMD framework that adapts both teacher supervision and critic fitting to the evolving student. Temporal affinity--conditioned re-noise sampling adapts the timestep distribution to each rollout's current interaction fidelity by mixing the base schedule with a teacher prior motivated by local posterior variation, thereby balancing motion recovery and appearance refinement. To better track stronger-motion rollouts, dynamics-guided fake-score tracking uses a noise-conditioned predictor to estimate noise-relative fitting difficulty from latent temporal dynamics, then upweights predicted-hard rollouts in the critic loss. Using DyMD, we distill a 14B teacher into a four-step 1.3B student with no auxiliary modules at inference. On embodied-video benchmarks, the student improves R-Bench task adherence by $9.6$ percentage points and PAI-Bench-G Domain score by $5.1$ points over Base DMD while maintaining comparable visual quality. As a backbone for downstream action planning, our student achieves 34% mean success across two WorldArena tasks, compared with 16% for Base DMD.
- Abstract（参考訳）: 大規模なビデオ拡散モデルは、具体的予測と学習のための表現力のある事前情報を提供するが、その多段階のサンプリングは、対話的な下流使用に費用がかかる。
分散マッチング蒸留(DMD)は、数ステップのビデオ生成を可能にするが、視覚的品質を保ちながら、ロボット物体の動きを抑えることができる。
DMDの教師とフェイクスコアの信号を調べると、弱いリノーミングにより、教師は運動不足のロールアウトの近くに後続に集中し、モーションリノベーションの指導を制限していることがわかった。
一方、強い動きのロールアウトは、より大きなフェイクスコアのフィッティングエラーを引き起こす傾向があるため、ジェネレータが相互作用のダイナミクスを学ぶのを妨げる。
教師の指導と批判を両立させるDyMDフレームワークを提案する。
時間的親和性-条件付き再雑音サンプリングは、各ロールアウトの現在の相互作用の忠実度に時間的分布を適応させ、基本スケジュールを局所的な後続変化によって動機付けられた教師と混合することにより、動き回復と外観改善のバランスをとる。
より強力な動きのロールアウトを追跡するために、ダイナミックス誘導のフェイクスコアトラッキングはノイズ条件付き予測器を使用して、遅延時間力学からのノイズ相対的適合困難を推定し、その後、批判的損失のアップウェイトがハードロールアウトを予測する。
DyMDを用いて14Bの教師を4段階の1.3Bの学生に蒸留する。
埋め込みビデオのベンチマークでは、学生はR-Benchタスクのアテンダンスを9.6ドル、PAI-Bench-Gドメインのスコアを5.1ドル改善し、視覚的品質を同等に保っている。
ダウンストリームアクションプランニングのバックボーンとして、私たちの学生は2つのWorldArenaタスクで平均34%の成功を達成しています。
関連論文リスト
- Where and When to Force: Routed Forcing for Streaming Avatars [77.2784423144136]
Self Forcingは双方向ビデオ拡散モデルを、リアルタイムストリーミングのための因果的、数ステップのジェネレータに蒸留する。
本研究では, 蒸留目標をセマンティック領域とノイズステージにルートするルータ強制法を提案する。
実験によると、Routed Forcingは動的に最大45%改善し、多様性は7～25%向上している。
論文 参考訳（メタデータ） (2026-09-25T08:15:11Z) - ViRDM: Taming Representation Distribution Matching for Few-Step Causal Video Generation [24.773587278828675]
ViRDMは教師と批評家のいないポストトレーニングのレシピである。
3ネットワーク蒸留を発電機のみのポストトレーニングに変換する。
ジェネレータの更新はわずか20回で、公式のVBench評価では84.87回に達した。
論文 参考訳（メタデータ） (2026-09-24T02:07:07Z) - Uncertainty DMD: Restoring Diversity in Few-Step Autoregressive Video Distillation [52.34982929108336]
少ない段階の蒸留は自己回帰(AR)ビデオ生成の効率を向上させるが、しばしば多様性の崩壊を引き起こす。
分散マッチング蒸留 (DMD) 蒸留ARビデオジェネレータのこの劣化を分析し, 自己回帰環境では, 構造的不確かさの崩壊の形をとる。
論文 参考訳（メタデータ） (2026-09-10T08:59:47Z) - Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout [28.90854720290184]
DMD(Distribution Matching Distillation)を通して、訓練済み双方向ビデオ拡散モデルから因果AR学生を抽出する最近の方法
生成されたビデオは、しばしば過飽和と過スムースな問題に悩まされ、視覚的品質とリアリズムが制限される。
本研究では,モード崩壊を緩和するために,AR学生の自己ロールアウトを妨害するデュアルノイズマスキング・ロールアウト戦略であるマスクフォーシングを提案する。
論文 参考訳（メタデータ） (2026-09-08T17:50:05Z) - DynaForcing: Overcoming Dynamic Collapse in Self-Forcing Distillation for Streaming Avatar Generation [44.15253138268671]
オーディオ駆動アバター生成には、リアルなリップシンク、表現力のあるモーション、リアルタイムストリーミングが必要である。
最近の研究は、分散マッチング蒸留(DMD)による自己強制で後者を達成するが、このパラダイムは重大な失敗に苦しむ。
異なるレベルに適用された3つの相補的な戦略を持つトレーニングフレームワークであるDynaForcingを提案する。
論文 参考訳（メタデータ） (2026-08-18T12:29:56Z) - Context-Matched Distillation: Teacher Causality for Autoregressive Video Distillation [97.02922768457239]
Context-Matched Distillation (CMD) は、教師の監督と、各ターゲットが生成される際に利用可能な情報とを整合させる因果的MDDフレームワークである。
Prefix Corruptionは、このターゲットコンテキストアライメントを維持しながら、トレーニングの初期段階で生成された信頼性の低いプレフィックスを摂動することで、トレーニングを安定化させる。
ショートビデオとロングビデオの両方のベンチマークで、自己回帰手法における最先端の集約性能を実証した。
論文 参考訳（メタデータ） (2026-08-13T15:51:31Z) - Vid2WAM: Distilling Video Diffusion Priors into World Action Models [59.28345153395937]
世界行動モデル(WAM)は、将来の視覚力学とアクションを共同でモデル化することで、ロボットポリシー学習を改善する。
大規模なビデオ基礎モデルからコンパクトなWAM学生へ視覚拡散を先取りするオフライン蒸留フレームワークであるVid2WAMを提案する。
Vid2WAMは、限られた専門家によるデモンストレーションにおいて、新しいタスクの一般化とデータ効率を向上させる。
論文 参考訳（メタデータ） (2026-08-09T08:02:49Z) - OPSD-V: On-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators [68.69611976783243]
OPSD-Vは、数ステップの自己回帰(AR)ビデオ拡散モデルの訓練後の自己蒸留パラダイムである。
鍵となるアイデアは、トレーニング中の時間的文脈として実際の長時間ビデオデータを導入し、それを高密度な軌跡レベルの監視に使用することである。
実験では、視覚的品質、運動力学、VBenchLongスコアが一貫した改善を示している。
論文 参考訳（メタデータ） (2026-07-09T17:59:11Z) - SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation [57.297118390628384]
分散マッチング蒸留(DMD)は、数ステップのビデオ拡散モデルにおいて、推論を加速するための広く使われているパラダイムである。
textbfScore Gradient Matching Distillation (SGMD)を提案する。
教師の停止段階のフィッシャーを安定した分布マッチングの目的として使用しながら、教師に対して偽スコアを直接最適化することで、偽スコアの視点を採用する。
時間的一貫性を維持しつつ、4段階蒸留モデルの運動力学を大幅に改善する。
論文 参考訳（メタデータ） (2026-05-28T15:50:55Z) - On-Policy Adversarial Flow Distillation for Autoregressive Video Generation [34.70887671905755]
逆流蒸留(英: Adversarial Flow Distillation、AFD)は、異種ブラックボックスビデオ蒸留のためのオンラインフレームワークである。
AFDは教師に問い合わせ、同じプロンプトで現在の生徒をロールアウトする。
AFDは、教師のスコア、潜伏者、軌道の騒音、ステップアライメント、逆鎖強化学習を必要とせず、高密度な速度場監視を提供する。
論文 参考訳（メタデータ） (2026-05-25T17:58:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。