論文の概要: Diffusion Fine-tuning with Rewarded Moment Matching Distillation
- arxiv url: http://arxiv.org/abs/2606.30414v1
- Date: Mon, 29 Jun 2026 15:00:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.292359
- Title: Diffusion Fine-tuning with Rewarded Moment Matching Distillation
- Title（参考訳）: Rewarded Moment Matching Distillation を用いた拡散微細チューニング
- Abstract要約: Rewarded Moment Matching Distillation (RMMD) は拡散モデルを同時に蒸留し、報酬関数を最大化する新しいフレームワークである。
我々は,最新の気象予報モデルであるGenCastにRMMDを適用し,CRPS(Continuous Ranked Probability Score)測定値の最適化を行った。
得られた蒸留モデルでは,教師モデルの93%を目標気象変数で上回りながら7.5倍のスピードアップを実現し,キャリブレーションも良好である。
- 参考スコア（独自算出の注目度）: 38.86104469934903
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Distillation and Reinforcement Learning (RL) fine-tuning are the primary pillars of diffusion post-training. While traditionally studied in isolation, the interaction between these phases remains poorly understood, and in particular how fine-tuning impacts the generative quality of distilled models. We introduce Rewarded Moment Matching Distillation (RMMD), a novel framework that simultaneously distills diffusion models and maximizes a reward function. RMMD preserves the high-fidelity ``naturalness'' characteristic of advanced distillation (such as 8-step Moment Matching) by adapting the sampling loop for on-policy training and repurposing the distillation loss as a proxy for integral KL regularization. By evaluating the FID-Reward Pareto fronts on ImageNet, we demonstrate that RMMD achieves superior trade-offs compared to single-step baselines (DI++) and multi-step competitors (DRaFT, HyperNoise). Finally, we apply RMMD to GenCast, a state-of-the-art weather forecasting model, to distill it while optimizing the Continuous Ranked Probability Score (CRPS) metric. The resulting distilled model achieves a 7.5x speedup while outperforming the teacher model on 93% of target weather variables, and being better calibrated. This proves that RMMD scales to complex, high-dimensional scientific domains.
- Abstract（参考訳）: 蒸留・強化学習(RL)ファインチューニングは拡散後学習の主要な柱である。
伝統的に別々に研究されてきたが、これらの相間の相互作用はよく理解されておらず、特に微調整が蒸留モデルの生成品質にどのような影響を及ぼすかは分かっていない。
本稿では,拡散モデルを同時に蒸留し,報酬関数を最大化する新しいフレームワークであるRewarded Moment Matching Distillation (RMMD)を紹介する。
RMMDは、オンライントレーニングにサンプリングループを適用し、KL正則化のプロキシとして蒸留損失を再調達することで、高度蒸留(例えば8ステップモーメントマッチング)の「自然性」特性を保っている。
ImageNet上でFID-Reward Paretoフロントを評価することで、RMMDはシングルステップベースライン(DI++)やマルチステップ競合(DRaFT、HyperNoise)と比較して優れたトレードオフを実現していることを示す。
最後に、RMMDを最先端の気象予報モデルであるGenCastに適用し、CRPS(Continuous Ranked Probability Score)メトリクスを最適化しながら蒸留する。
得られた蒸留モデルでは,教師モデルの93%を目標気象変数で上回りながら7.5倍のスピードアップを実現し,キャリブレーションも良好である。
これはRMMDが複雑で高次元の科学領域にスケールすることを証明している。
関連論文リスト
- SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation [57.297118390628384]
分散マッチング蒸留(DMD)は、数ステップのビデオ拡散モデルにおいて、推論を加速するための広く使われているパラダイムである。
textbfScore Gradient Matching Distillation (SGMD)を提案する。
教師の停止段階のフィッシャーを安定した分布マッチングの目的として使用しながら、教師に対して偽スコアを直接最適化することで、偽スコアの視点を採用する。
時間的一貫性を維持しつつ、4段階蒸留モデルの運動力学を大幅に改善する。
論文 参考訳（メタデータ） (2026-05-28T15:50:55Z) - Guiding Distribution Matching Distillation with Gradient-Based Reinforcement Learning [41.982957134224904]
拡散蒸留は、数ステップの発電では大きな可能性を秘めているが、サンプリング速度のために品質を犠牲にすることが多い。
GDMDは, 原画素出力よりも蒸留勾配を優先することで, 報酬機構を再定義する新しいフレームワークである。
我々のモデルは、その多段階教師の質を上回り、GenEvalと人為的基準の指標において、従来のDMDRよりもかなり上回っている。
論文 参考訳（メタデータ） (2026-04-21T02:57:13Z) - Distribution Matching Distillation Meets Reinforcement Learning [30.960105413888943]
本稿では,RL(Reinforcement Learning)技術と蒸留プロセスを組み合わせた新しいフレームワークDMDRを提案する。
数ステップのジェネレータのRLでは、MDD損失自体が従来のジェネレータよりも効果的な正規化であることを示す。
実験により、DMDRは目立った視覚的品質を達成でき、数ステップの手法間のコヒーレンスを促進でき、多ステップの教師を超えるパフォーマンスを発揮できることが示された。
論文 参考訳（メタデータ） (2025-11-17T17:59:54Z) - Phased DMD: Few-step Distribution Matching Distillation via Score Matching within Subintervals [48.14879329270912]
フェーズドDMDは、Mixture-of-Expertsでフェーズワイド蒸留のアイデアを橋渡しする多段階蒸留フレームワークである。
位相MDDはプログレッシブな分布マッチングとサブインターバル内のスコアマッチングという2つの主要なアイデアに基づいて構築されている。
実験結果から,第2相DMDはDMDよりも出力の多様性を保ちつつ,重要な生成能力を保っていることが明らかとなった。
論文 参考訳（メタデータ） (2025-10-31T17:55:10Z) - Large Scale Diffusion Distillation via Score-Regularized Continuous-Time Consistency [60.74505433956616]
連続時間一貫性モデル(sCM)は理論的に原理化され、学術規模の拡散を加速するために実証的に強力である。
まず並列性互換なFlashAttention-2 JVPカーネルを開発し、100億以上のパラメータと高次元ビデオタスクを持つモデル上でsCMトレーニングを可能にする。
本稿では, スコア蒸留を長軸正則化器として組み込んだスコア規則化連続時間一貫性モデル(rCM)を提案する。
論文 参考訳（メタデータ） (2025-10-09T16:45:30Z) - Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis [65.77083310980896]
本稿では, 実測値と偽測値の間に潜時予測を整列させる適応分布マッチング (ADM) を提案する。
提案手法は,DMD2と比較してSDXLの1ステップ性能に優れ,GPU時間が少ない。
SD3-Medium, SD3.5-Large, CogVideoX に多段階の ADM 蒸留を適用した実験では, 画像と映像の効率的な合成に向けた新しいベンチマークが設定された。
論文 参考訳（メタデータ） (2025-07-24T16:45:05Z) - Restoration Score Distillation: From Corrupted Diffusion Pretraining to One-Step High-Quality Generation [82.39763984380625]
Score Distillation (DSD) の原理的一般化である textitRestoration Score Distillation (RSD) を提案する。
RSDは、ぼやけた画像、不完全画像、低解像度画像など、広範囲の汚職タイプに対応している。
自然と科学の両方のデータセットの様々な復元作業において、教師モデルを一貫して上回っている。
論文 参考訳（メタデータ） (2025-05-19T17:21:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。