論文の概要: Stochastic Transition-Map Distillation for Fast Probabilistic Inference
- arxiv url: http://arxiv.org/abs/2605.07661v1
- Date: Fri, 08 May 2026 12:31:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:39.040792
- Title: Stochastic Transition-Map Distillation for Fast Probabilistic Inference
- Title（参考訳）: 確率的高速推論のための確率遷移マップ蒸留
- Authors: George Rapakoulias, Peter Garud, Lingjiong Zhu, Panagiotis Tsiotras,
- Abstract要約: 拡散モデルは、強力な世代品質、多様性、分布範囲を達成するが、その性能には高価な推論が伴うことが多い。
本研究では,拡散モデル推論を高速化する教師レスフレームワークであるTransition-Map Distillation (STMD)を提案する。
- 参考スコア（独自算出の注目度）: 14.377745343756485
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models achieve strong generation quality, diversity, and distribution coverage, but their performance often comes with expensive inference. In this work, we propose Stochastic Transition-Map Distillation (STMD), a teacher-free framework for accelerating diffusion model inference while preserving probabilistic sample generation. In contrast to score-based diffusion models, whose denoising parametrization models the mean of the posterior distribution, STMD distills the full transition map associated with the sampling stochastic differential equation (SDE). We parameterize these SDE transitions with a conditional Mean Flow model, yielding a one- or few-step stochastic sampler that retains the transition structure of the underlying diffusion process. This perspective is especially useful for downstream tasks that require stochastic inference, such as diffusion posterior sampling, inverse problems, and energy-based fine-tuning. Compared to recent distillation methods, STMD requires no pretrained teacher, bi-level optimization, or trajectory simulation and caching, enabling efficient and scalable training. We derive convergence bounds for our method in the Wasserstein distance, providing a strong theoretical foundation for our approach, and validate STMD on various image generation examples on the MNIST, CIFAR-10, and CelebA datasets.
- Abstract（参考訳）: 拡散モデルは、強力な世代品質、多様性、分布範囲を達成するが、その性能には高価な推論が伴うことが多い。
本研究では,確率的サンプル生成を保ちながら拡散モデル推論を加速する教師レスフレームワークである確率遷移マップ蒸留(STMD)を提案する。
偏光パラメトリゼーションモデルが後方分布の平均を推定するスコアベース拡散モデルとは対照的に、STMDはサンプリング確率微分方程式(SDE)に付随する全遷移写像を蒸留する。
我々はこれらのSDE遷移を条件付き平均流モデルでパラメータ化し、基礎となる拡散過程の遷移構造を保持する1段階または数段階の確率的サンプリング器を生成する。
この観点は、拡散後サンプリング、逆問題、エネルギーベースの微調整など、確率的推論を必要とする下流タスクに特に有用である。
最近の蒸留法と比較して、STMDは事前訓練された教師、二段階最適化、軌道シミュレーションとキャッシングを必要とせず、効率的でスケーラブルな訓練を可能にする。
我々は、ワッサースタイン距離における手法の収束境界を導出し、我々のアプローチの強力な理論的基盤を提供し、MNIST、CIFAR-10、CelebAデータセット上の様々な画像生成例でSTMDを検証する。
関連論文リスト
- Diffusion models for multivariate subsurface generation and efficient probabilistic inversion [0.0]
拡散モデルは、深い生成モデリングタスクのための安定したトレーニングと最先端のパフォーマンスを提供する。
本稿では拡散モデルに固有のノイズ汚染を考慮した近似法を提案する。
統計的ロバスト性は有意に向上し, 後部確率密度関数のサンプリングが向上した。
論文 参考訳（メタデータ） (2025-07-21T17:10:16Z) - Variational Schrödinger Diffusion Models [14.480273869571468]
Schr"odinger Bridge (SB) は拡散モデルにおける輸送計画の最適化手法として登場した。
我々は変分推論を利用してSBの前方スコア関数(変分スコア)を線形化する。
本稿では,多変量拡散過程と変分スコアを適応的に最適化して効率的な輸送を行う,変分Schr"odinger拡散モデル(VSDM)を提案する。
論文 参考訳（メタデータ） (2024-05-08T04:01:40Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳（メタデータ） (2023-11-02T02:05:38Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳（メタデータ） (2023-05-31T15:33:16Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳（メタデータ） (2023-04-10T17:54:38Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳（メタデータ） (2022-11-30T05:33:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。