論文の概要: Collaborative Few-Step Distillation and Low-Bit Quantization for Wan2.2 Dual-Expert Video Diffusion Models
- arxiv url: http://arxiv.org/abs/2606.00658v1
- Date: Sat, 30 May 2026 10:15:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.578031
- Title: Collaborative Few-Step Distillation and Low-Bit Quantization for Wan2.2 Dual-Expert Video Diffusion Models
- Title（参考訳）: Wan2.2デュアルエキスパートビデオ拡散モデルのための協調的フットステップ蒸留と低ビット量子化
- Abstract要約: 大規模なビデオ拡散モデルは、強力な視覚的品質を実現するが、デプロイには高価である。
本稿では,Wan2.2-T2V-A14Bの分散マッチング蒸留と低ビット量子化を組み合わせた配置指向圧縮パイプラインについて検討する。
- 参考スコア（独自算出の注目度）: 33.34882219233732
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large video diffusion models achieve strong visual quality but remain expensive to deploy because each sample requires many denoising steps and a large resident parameter footprint. This paper studies a deployment-oriented compression pipeline for Wan2.2-T2V-A14B by combining few-step distribution-matching distillation with low-bit quantization. The pipeline follows the model's dual-expert denoising route, calibrates the high-noise and low-noise branches separately, protects sensitive entrance layers, and uses HiF4-style low-bit representation to improve dynamic-range coverage. Quantization is calibrated on the distilled few-step student rather than on the original long-step trajectory, reducing activation-distribution mismatch during inference. The proposed co-design keeps the quantized model close to the same-step full-precision model and surpasses the original full-precision baseline at 8 and 20 steps on average. The 20-step setting gives the best quality-efficiency trade-off in the tested configurations.
- Abstract（参考訳）: 大規模なビデオ拡散モデルは、強力な視覚的品質を実現するが、各サンプルには多くのデノイングステップと大きな常駐パラメータフットプリントを必要とするため、デプロイに費用がかかる。
本稿では,Wan2.2-T2V-A14Bの分散マッチング蒸留と低ビット量子化を組み合わせた配置指向圧縮パイプラインについて検討する。
パイプラインはモデルのデュアル・エキスパート・デノゲーション・ルートに従い、ハイノイズとローノイズの分岐を別々に校正し、センシティブな入り口層を保護し、ハイF4スタイルの低ビット表現を使用してダイナミックレンジのカバレッジを改善する。
量子化は、蒸留された数ステップの学生に対して、元の長いステップの軌跡ではなく、校正され、推論中の活性化-分布ミスマッチを減少させる。
提案した共設計は、量子化されたモデルを同じステップの完全精度モデルに近く保ち、元の完全精度ベースラインを平均8ステップと20ステップで上回っている。
20ステップの設定は、テストされた構成で最高の品質と効率のトレードオフを提供します。
関連論文リスト
- teasr: training-efficient any-step diffusion transformer for real-world image super-resolution [10.733502031936958]
TEASRはReal-ISRのためのトレーニング効率の良い任意のステップ拡散フレームワークである。
我々のキーとなる考え方は、単一拡散モデル内で自己逆蒸留を行うことである。
ノイズレベルの一段階生成を安定化する時間ステップ対応補正戦略を提案する。
論文 参考訳（メタデータ） (2026-06-15T04:02:37Z) - Q-Sched: Pushing the Boundaries of Few-Step Diffusion Models with Quantization-Aware Scheduling [17.912877295127355]
本稿では,モデル重みよりも拡散モデルスケジューラを改良した,ポストトレーニング量子化のための新しいパラダイムであるQ-Schedを紹介する。
Q-Schedはモデルサイズの4倍の精度で完全精度を達成する。
80,000以上のアノテーションを持つ大規模なユーザ調査では、FLUX.1[schnell]とSDXL-Turboの両方でQ-Schedの有効性が確認されている。
論文 参考訳（メタデータ） (2025-09-01T17:09:22Z) - One-Step Diffusion Model for Image Motion-Deblurring [85.76149042561507]
本稿では,脱臭過程を1段階に短縮する新しいフレームワークである脱臭拡散モデル(OSDD)を提案する。
拡散モデルにおける忠実度損失に対処するために,構造復元を改善する改良された変分オートエンコーダ(eVAE)を導入する。
提案手法は,実測値と非参照値の両方で高い性能を達成する。
論文 参考訳（メタデータ） (2025-03-09T09:39:57Z) - TCAQ-DM: Timestep-Channel Adaptive Quantization for Diffusion Models [49.65286242048452]
拡散モデル(TCAQ-DM)のためのタイムステップ・チャネル適応量子化法を提案する。
提案手法は,ほとんどの場合,最先端の手法よりも優れている。
論文 参考訳（メタデータ） (2024-12-21T16:57:54Z) - MPQ-DM: Mixed Precision Quantization for Extremely Low Bit Diffusion Models [37.061975191553]
本稿では,拡散モデルのための混合精度量子化法MPQ-DMを提案する。
重み付き外周波による量子化誤差を軽減するために,外周波混合量子化手法を提案する。
時間ステップを横断する表現を頑健に学習するために,時間-平滑な関係蒸留方式を構築した。
論文 参考訳（メタデータ） (2024-12-16T08:31:55Z) - PassionSR: Post-Training Quantization with Adaptive Scale in One-Step Diffusion based Image Super-Resolution [95.98801201266099]
拡散に基づく画像超解像(SR)モデルでは、複数のデノナイジングステップのコストで優れた性能を示す。
本稿では,一段階拡散(OSD)画像SR,PassionSRにおける適応スケールの学習後量子化手法を提案する。
我々のPassionSRは、画像SRの最近の先進的な低ビット量子化法に対して大きな利点がある。
論文 参考訳（メタデータ） (2024-11-26T04:49:42Z) - 2DQuant: Low-bit Post-Training Quantization for Image Super-Resolution [83.09117439860607]
低ビット量子化は、エッジ展開のための画像超解像(SR)モデルを圧縮するために広く普及している。
低ビット量子化は、フル精度(FP)と比較してSRモデルの精度を低下させることが知られている。
本稿では2DQuantという画像超解像のための2段階の低ビット後量子化(PTQ)法を提案する。
論文 参考訳（メタデータ） (2024-06-10T06:06:11Z) - SCott: Accelerating Diffusion Models with Stochastic Consistency Distillation [74.32186107058382]
本稿では,テキスト・画像の高速生成を実現するために,SCott(Consistency Distillation)を提案する。
SCottは、訓練済みの教師モデルの通常の微分方程式解法に基づくサンプリングプロセスを学生に蒸留する。
安定拡散V1.5教師によるMSCOCO-2017 5Kデータセットでは、SCottは2ステップのサンプリングステップを持つ21.9のFIDを達成し、1ステップのInstaFlow (23.4)と4ステップのUFOGen (22.1)を上回ります。
論文 参考訳（メタデータ） (2024-03-03T13:08:32Z) - EDA-DM: Enhanced Distribution Alignment for Post-Training Quantization of Diffusion Models [8.742501879586309]
量子化はモデルの複雑性を効果的に低減し、後学習量子化(PTQ)は拡散モデルの圧縮と加速に非常に有望である。
既存のPTQ法は, キャリブレーションサンプルレベルと再構成出力レベルの両方の分布ミスマッチ問題に悩まされている。
本稿では,上記の問題に効率的に対処する標準化されたPTQ手法であるEDA-DMを提案する。
論文 参考訳（メタデータ） (2024-01-09T14:42:49Z) - Q-Diffusion: Quantizing Diffusion Models [52.978047249670276]
ポストトレーニング量子化(PTQ)は、他のタスクに対するゴーツー圧縮法であると考えられている。
本稿では,一意なマルチステップパイプラインとモデルアーキテクチャに適した新しいPTQ手法を提案する。
提案手法は,完全精度の非条件拡散モデルを同等の性能を維持しつつ4ビットに定量化できることを示す。
論文 参考訳（メタデータ） (2023-02-08T19:38:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。