論文の概要: A Quantitative Approximation Framework for Flow Distillation in Diffusion Models

• arxiv url: http://arxiv.org/abs/2606.03820v1
• Date: Tue, 02 Jun 2026 16:00:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:05.139353
• Title: A Quantitative Approximation Framework for Flow Distillation in Diffusion Models
• Title（参考訳）: 拡散モデルにおけるフロー蒸留の定量的近似フレームワーク
• Authors: Weiguo Gao, Ming Li, Lei Shi, Hanfei Zhou,
• Abstract要約: 局所近似誤差は低雑音マルチモーダル状態において強く増幅することができる。 深部残留成分は, 長距離輸送を効率的に近似することを示した。 実験は、一様格子と比較して8セグメントで最大51.9%の予測とエンドツーエンドの相対MSI削減をサポートする。
• 参考スコア（独自算出の注目度）: 9.704954388992892
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We develop a quantitative approximation framework for diffusion distillation, viewing few-step sampling as error propagation under compositions of learned flow maps. Focusing on trajectory distillation for the probability-flow ODE, we show that local approximation errors can be strongly amplified in low-noise multimodal regimes, where the underlying dynamics become stiff. In an analytically tractable Gaussian-mixture Ornstein--Uhlenbeck setting, we separate two core difficulties: approximating the time-dependent score field and controlling the dynamical amplification governed by the time-integrated Jacobian bound of the probability-flow ODE. On the approximation side, we prove constructive L^p(p_t) guarantees showing that ReLU--ReQU networks approximate the Gaussian-mixture score uniformly over time, with depth and width scaling polylogarithmically in the target accuracy and explicitly with the mixture geometry. On the stability side, we derive an explicit bound L(t) for the spatial Lipschitz constant of the probability-flow velocity and convert it into a flow map stability estimate governed by \int_s^t L(u)\,du, making late-time amplification in stiff regimes computable. Building on these estimates, we prove that deep residual compositions efficiently approximate the long-horizon transport, with global error controlled by the stability amplification factor, and identify a Lipschitz-mismatch regime in which one-step distillation is structurally unfavorable. The resulting theory yields a stability-balanced non-uniform time grid obtained by uniform partitioning in the cumulative stability coordinate. Experiments support the prediction and reduce end-to-end relative MSE by up to 51.9\% with 8 segments compared with uniform grids.
• Abstract（参考訳）: 本研究では, 拡散蒸留のための定量的な近似フレームワークを開発し, 学習フローマップの合成に基づいて, 数ステップのサンプリングを誤差伝播とみなす。 確率フローODEの軌道蒸留に着目し,低雑音多モード系では局所近似誤差が強く増幅され,基礎となる力学が硬くなることを示す。 解析的に抽出可能なガウス混合Ornstein--Uhlenbeck設定では、時間依存スコア場を近似し、確率フローODEの時間積分ジャコビアン境界によって支配される動的増幅を制御するという2つの主要な困難を分離する。 近似の面では、ReLU-ReQUネットワークがガウス混合のスコアを時間とともに均一に近似し、深さと幅のスケーリングは目的の精度で多義的に、混合幾何と明確に近似していることを示す構成的なL^p(p_t)保証を証明している。 安定性側では、明示的有界 L を導出する。 (t) 確率-流速の空間リプシッツ定数に対して、それを \int_s^t L によるフローマップ安定性推定に変換する。 (u)は、強硬な体制における深夜増幅を計算可能とする。 これらの推定値に基づいて, 深部残留成分の長期輸送を効率よく近似し, 安定増幅係数によって大域的誤差を制御し, 一段階蒸留が構造的に好ましくないリプシッツ・ミストッチ体制を同定した。 結果として得られる理論は、累積安定性座標における一様分割によって得られる安定性バランスのない非一様時間格子を与える。 実験は、一様格子と比較して8セグメントで最大51.9 %の予測と、エンドツーエンドの相対的 MSE の削減をサポートする。

関連論文リスト

• On the Stability of Spherical Hellinger-Kantorovich Flows and Their Implications for Differential Privacy [3.251449696624754]
  我々は、SHK勾配流の摂動理論を開発し、時間とともに潜在的な不一致がどのように伝播するかを定量化する。 一様境界は、対数様比とレニイ発散の次元自由、点ワイズ制御をもたらす。 これらの結果を差分プライバシーの指数的メカニズムの近似サンプリングに適用する。
  論文  参考訳（メタデータ） (2026-05-22T17:38:20Z)
• Variational Optimality of Föllmer Processes in Generative Diffusions [20.583125441867434]
  有限時間地平線上の所定の目標分布に点質量を輸送する生成拡散を解析する。 拡散係数は, 時間空間分布を変化させることなく, エンファテリオリを調整できることが示唆された。
  論文  参考訳（メタデータ） (2026-02-11T16:15:19Z)
• An Elementary Approach to Scheduling in Generative Diffusion Models [55.171367482496755]
  生成拡散モデルにおけるノイズスケジューリングと時間離散化の影響を特徴付けるための基礎的手法を開発した。 異なるデータセットと事前訓練されたモデルにわたる実験により、我々のアプローチによって選択された時間離散化戦略が、ベースラインとサーチベースの戦略を一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2026-01-20T05:06:26Z)
• Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching [60.37045080890305]
  本稿では,フローマッチングに基づく生成モデルにおいて,サンプルの複雑さを初めて解析する。 速度場推定誤差をニューラルネットワーク近似誤差、有限標本サイズによる統計的誤差、速度場推定のための有限個の最適化ステップによる最適化誤差に分解する。
  論文  参考訳（メタデータ） (2025-12-01T05:14:25Z)
• Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
  ポテンシャル関数が支配する分布からサンプリングする問題を考察する。 本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
  論文  参考訳（メタデータ） (2023-08-28T23:51:33Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
  そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。 モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。 提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
  論文  参考訳（メタデータ） (2021-11-22T06:26:29Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。