論文の概要: 1.x-Distill: Breaking the Diversity, Quality, and Efficiency Barrier in Distribution Matching Distillation

• arxiv url: http://arxiv.org/abs/2604.04018v1
• Date: Sun, 05 Apr 2026 08:30:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.877994
• Title: 1.x-Distill: Breaking the Diversity, Quality, and Efficiency Barrier in Distribution Matching Distillation
• Title（参考訳）: 1.x-希釈:分散マッチング蒸留における多様性・品質・効率障壁を破る
• Authors: Haoyu Li, Tingyan Wen, Lin Qi, Zhe Wu, Yihuang Chen, Xing Zhou, Lifei Zhu, Xueqian Wang, Kai Zhang,
• Abstract要約: 1.x-Distillは、以前の数ステップ法の整数ステップ制約を破る最初の分数ステップ蒸留フレームワークである。 その結果,1.x-Distillは従来の数段階法を上回り,28x2 NFEサンプリングよりも最大33倍の速度で1.67および1.74有効NFEの精度と多様性を達成できた。
• 参考スコア（独自算出の注目度）: 22.287956787775872
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models produce high-quality text-to-image results, but their iterative denoising is computationally expensive.Distribution Matching Distillation (DMD) emerges as a promising path to few-step distillation, but suffers from diversity collapse and fidelity degradation when reduced to two steps or fewer. We present 1.x-Distill, the first fractional-step distillation framework that breaks the integer-step constraint of prior few-step methods and establishes 1.x-step generation as a practical regime for distilled diffusion models.Specifically, we first analyze the overlooked role of teacher CFG in DMD and introduce a simple yet effective modification to suppress mode collapse. Then, to improve performance under extreme steps, we introduce Stagewise Focused Distillation, a two-stage strategy that learns coarse structure through diversity-preserving distribution matching and refines details with inference-consistent adversarial distillation. Furthermore, we design a lightweight compensation module for Distill--Cache co-Training, which naturally incorporates block-level caching into our distillation pipeline.Experiments on SD3-Medium and SD3.5-Large show that 1.x-Distill surpasses prior few-step methods, achieving better quality and diversity at 1.67 and 1.74 effective NFEs, respectively, with up to 33x speedup over original 28x2 NFE sampling.
• Abstract（参考訳）: 拡散モデルでは, 高品質なテキスト・ツー・イメージが生成されるが, 反復的復調は計算コストが高く, 分散マッチング蒸留 (DMD) は, 数ステップの蒸留において有望な経路として現れるが, 2ステップ以下に減らせば, 多様性の崩壊やフィデリティ劣化に悩まされる。 本稿では, 従来の数段法の整数ステップ制約を破り, 1.xステップ生成を蒸留拡散モデルの実用的体系として確立する最初の分数ステップ蒸留フレームワークである 1.x-Distill について述べる。 そこで, 過度な工程での性能向上を図るために, 多様性保存分布マッチングを用いて粗い構造を学習し, 推論に一貫性のある逆蒸留で詳細を精査する2段階戦略であるStagewise Focused Distillationを導入する。 SD3-Medium と SD3.5-Large による実験では、1.x-Distill が従来の数段法を超越し、それぞれ 1.67 と 1.74 の有効 NFE で品質と多様性を達成し、28x2 NFE サンプリングの最大33倍の高速化を実現している。

関連論文リスト

• Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis [65.77083310980896]
  本稿では, 実測値と偽測値の間に潜時予測を整列させる適応分布マッチング (ADM) を提案する。 提案手法は,DMD2と比較してSDXLの1ステップ性能に優れ,GPU時間が少ない。 SD3-Medium, SD3.5-Large, CogVideoX に多段階の ADM 蒸留を適用した実験では, 画像と映像の効率的な合成に向けた新しいベンチマークが設定された。
  論文  参考訳（メタデータ） (2025-07-24T16:45:05Z)
• Presto! Distilling Steps and Layers for Accelerating Music Generation [49.34961693154768]
  Presto!は、スコアベースの拡散変換器の推論加速度に対するアプローチである。 拡散モデルのEDM-ファミリーのための新しいスコアベース分布マッチング蒸留法(DMD)を開発した。 工程当たりのコストを削減するため,最近の層蒸留法において,単純だが強力な改良が加えられた。
  論文  参考訳（メタデータ） (2024-10-07T16:24:18Z)
• Distilling Diffusion Models into Conditional GANs [90.76040478677609]
  複雑な多段階拡散モデルを1段階条件付きGAN学生モデルに蒸留する。 E-LatentLPIPSは,拡散モデルの潜在空間で直接動作する知覚的損失である。 我々は, 最先端の1ステップ拡散蒸留モデルよりも優れた1ステップ発生器を実証した。
  論文  参考訳（メタデータ） (2024-05-09T17:59:40Z)
• Hyper-SD: Trajectory Segmented Consistency Model for Efficient Image Synthesis [20.2271205957037]
  Hyper-SDはODEトラジェクトリ保存と改革の利点を活かす新しいフレームワークである。 本稿では, 予め定義された時間ステップセグメント内で一貫した蒸留を行うために, トラジェクティブ・セグメンテッド・コンシスタンス蒸留を導入する。 人間のフィードバック学習を取り入れ、低段階のモデルの性能を高めるとともに、蒸留プロセスによって生じる性能損失を軽減する。
  論文  参考訳（メタデータ） (2024-04-21T15:16:05Z)
• Fast High-Resolution Image Synthesis with Latent Adversarial Diffusion Distillation [24.236841051249243]
  蒸留法は、モデルをマルチショットからシングルステップ推論にシフトすることを目的としている。 ADDの限界を克服する新しい蒸留法であるLADD(Latent Adversarial Diffusion Distillation)を導入する。 ピクセルベースのADDとは対照的に、LADDは事前訓練された潜伏拡散モデルから生成的特徴を利用する。
  論文  参考訳（メタデータ） (2024-03-18T17:51:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。