論文の概要: Quantization-Aware Kalman Estimation for Diffusion Sampling
- arxiv url: http://arxiv.org/abs/2609.21407v1
- Date: Fri, 18 Sep 2026 07:18:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.893533
- Title: Quantization-Aware Kalman Estimation for Diffusion Sampling
- Title(参考訳): 拡散サンプリングのための量子化を考慮したカルマン推定
- Abstract要約: 攻撃的圧縮は、量子化された出力を、その完全精度の出力から大きく逸脱させる可能性がある。
本稿では,量子化を意識したカルマンエスタであるQuakeと条件付きガウス観測モデルを提案する。
W4A4量子化テキスト-画像拡散モデルによる実験により、QuAKEは完全精度サンプリングから分布差を減らすために既存の手法より一貫して優れていることが示された。
- 参考スコア(独自算出の注目度): 17.016094185289372
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quantization offers a practical path to deploying diffusion models with reduced memory and computation, but aggressive compression can cause quantized outputs to deviate substantially from their full-precision counterparts. Sampling-stage correction methods seek to compensate for such deviations during sampling, but existing approaches rely primarily on local information and underexploit trajectory history, limiting their ability to correct errors that propagate across timesteps. In this work, we formulate sampling with a quantized denoiser as an online estimation problem, using the history of quantized denoiser outputs to recover the underlying full-precision outputs required by the sampler. We propose QuAKE, a Quantization-Aware Kalman Estimator that combines a smooth trajectory prior with a conditional Gaussian observation model. At each sampling step, QuAKE recursively updates the posterior over the output window in closed form and feeds its posterior mean to the sampler. QuAKE is a lightweight plug-and-play corrector that requires no modification to the quantized network and naturally supports arbitrary high-order multistep ODE samplers. Experiments across W4A4-quantized text-to-image diffusion models show that QuAKE consistently outperforms existing methods in reducing the distributional discrepancy from full-precision sampling.
- Abstract(参考訳): 量子化は、メモリと計算量を減らした拡散モデルをデプロイするための実用的な経路を提供するが、攻撃的な圧縮は、量子化された出力をその完全精度の出力から大きく逸脱させる可能性がある。
サンプリング段階補正法はサンプリング中にそのようなずれを補正しようとするが、既存の手法は主に局所的な情報と未発見の軌跡履歴に依存し、タイムステップを越えて伝播する誤りを補正する能力を制限する。
本研究では, オンライン推定問題として, 量子デノイザを用いたサンプリングを定式化し, 定量デノイザの出力履歴を用いて, サンプリング者に必要な全精度出力を復元する。
本研究では,スムーズな軌道と条件付きガウス観測モデルを組み合わせた量子化カルマン推定器Quakeを提案する。
サンプリングステップ毎に、QuAKEは出力ウィンドウ上の後方をクローズドな形で再帰的に更新し、その後方平均をサンプリング者に供給する。
QuAKEは軽量なプラグアンドプレイ修正器で、量子化ネットワークの変更を必要とせず、自然に任意の高階の多段階ODEサンプリングをサポートする。
W4A4量子化テキスト-画像拡散モデルによる実験により、QuAKEは完全精度サンプリングから分布差を減らすために既存の手法より一貫して優れていることが示された。
関連論文リスト
- Corrected Samplers for Discrete Flow Models [36.348940136801296]
近年の研究では、タウ・リーピングやオイラー・ソルバのような離散拡散モデルのサンプルについて研究されている。
遷移率やソース分布に制限を加えることなく,非漸近的離散化誤差境界を確立する。
位置補正されたサンプリング器は,既存の並列サンプリング器よりも複雑さが低いことを厳密に示す。
論文 参考訳(メタデータ) (2026-01-30T03:53:22Z) - One-Step Diffusion Samplers via Self-Distillation and Deterministic Flow [24.67443222055996]
既存のサンプリングアルゴリズムは通常、高品質なサンプルを作成するために多くの反復的なステップを必要とする。
ステップ条件のODEを学習する1ステップ拡散サンプリング器を提案する。
標準のELBO推定値が数ステップで劣化するのは、よく見られる離散的な収差が前方/後方遷移カーネルと一致していないためである。
論文 参考訳(メタデータ) (2025-12-04T20:57:53Z) - Quantizing Diffusion Models from a Sampling-Aware Perspective [43.95032520555463]
本稿では,混合次軌道アライメント手法を考案したサンプリング対応量子化手法を提案する。
複数のデータセットにまたがるスパースステップ高速サンプリング実験により,本手法は高速サンプリング器の高速収束特性を保っていることが示された。
論文 参考訳(メタデータ) (2025-05-04T20:50:44Z) - Distributional Diffusion Models with Scoring Rules [83.38210785728994]
拡散モデルは高品質な合成データを生成する。
高品質な出力を生成するには、多くの離散化ステップが必要です。
クリーンデータサンプルの後部エム分布を学習し,サンプル生成を実現することを提案する。
論文 参考訳(メタデータ) (2025-02-04T16:59:03Z) - Post-training Quantization for Text-to-Image Diffusion Models with Progressive Calibration and Activation Relaxing [49.800746112114375]
本稿では,テキスト・画像拡散モデルのための学習後量子化手法(プログレッシブ・アンド・リラクシング)を提案する。
我々は,安定拡散XLの量子化を初めて達成し,その性能を維持した。
論文 参考訳(メタデータ) (2023-11-10T09:10:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。