論文の概要: Training-Free Generative Sampling via Moment-Matched Score Smoothing
- arxiv url: http://arxiv.org/abs/2605.14276v1
- Date: Thu, 14 May 2026 02:20:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.582589
- Title: Training-Free Generative Sampling via Moment-Matched Score Smoothing
- Title(参考訳): モーメントマッチスコア平滑化による学習不要な生成サンプリング
- Authors: Zhenyu Yao, Daniel Paulin,
- Abstract要約: 拡散モデルは、摂動対象分布のスコアに沿ってデノイングすることでサンプルを生成する。
最近の研究は、スコアマッチングが暗黙的に経験的なスコアを滑らかにすることを示唆している。
モーメントマッチングされたスコアスムーズなランゲヴィンダイナミクスを提案する。
- 参考スコア(独自算出の注目度): 0.6015898117103069
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models generate samples by denoising along the score of a perturbed target distribution. In practice, one trains a neural diffusion model, which is computationally expensive. Recent work suggests that score matching implicitly smooths the empirical score, and that this smoothing bias promotes generalization by capturing low-dimensional data geometry. We propose moment-matched score-smoothed overdamped Langevin dynamics (MM-SOLD), a training-free interacting particle sampler that enforces the target moments throughout the sampling trajectory. We prove that, in the large-particle limit, the empirical particle density converges to a deterministic limit whose one-particle stationary marginal is a Gibbs--Boltzmann density obtained by exponentially tilting a naive score-smoothed diffusion target. The mean and covariance of this distribution agree with the empirical moments of the training data. Experiments on 2D distributions and latent-space image generation show that MM-SOLD enables fast, robust, training-free sampling on CPUs, with sample fidelity and diversity competitive with neural diffusion baselines.
- Abstract(参考訳): 拡散モデルは、摂動対象分布のスコアに沿ってデノイングすることでサンプルを生成する。
実際には、計算コストのかかる神経拡散モデルを訓練する。
最近の研究は、スコアマッチングが暗黙的に経験的スコアを滑らかにし、この滑らかなバイアスが低次元データ幾何を捉えることによって一般化を促進することを示唆している。
本研究では, サンプリング軌道全体を通して目標モーメントを強制する訓練不要な相互作用粒子サンプリング装置である, モーメントマッチングスコアスムーズオーバーダム化ランゲインダイナミクス (MM-SOLD) を提案する。
大粒子限界において、経験的粒子密度は、一粒子の定常限界がギブス-ボルツマン密度である決定論的極限に収束することが証明された。
この分布の平均と共分散は、トレーニングデータの経験的瞬間と一致する。
2次元分布と潜時空間画像生成の実験により、MM-SOLDはCPU上で高速で堅牢でトレーニング不要なサンプリングを可能にし、サンプルの忠実度とダイバーシティは神経拡散ベースラインと競合することが示された。
関連論文リスト
- Flow Sampling: Learning to Sample from Unnormalized Densities via Denoising Conditional Processes [8.197659010420418]
Flow Samplingは、データフリー設定のための拡散モデルとフローマッチングに基づいて構築されたフレームワークである。
補間法を用いて、トレーニング中のエネルギー関数の評価数を最小化し、非正規化密度をサンプリングする効率的でスケーラブルな方法を実現する。
論文 参考訳(メタデータ) (2026-05-05T17:07:37Z) - Progressive Inference-Time Annealing of Diffusion Models for Sampling from Boltzmann Densities [93.13866975467549]
拡散に基づくサンプル学習のために, PITA(Progressive Inference-Time Annealing)を提案する。
PITAはボルツマン分布のアナーリングと拡散平滑化という2つの相補的手法を組み合わせたものである。
N-体粒子系、アラニンジペプチド、トリペプチドの平衡サンプリングを可能にする。
論文 参考訳(メタデータ) (2025-06-19T17:14:22Z) - Resolving Memorization in Empirical Diffusion Model for Manifold Data in High-Dimensional Spaces [5.716752583983991]
データ分布がn個の点からなる場合、経験的拡散モデルは既存のデータ点を再現する傾向がある。
本研究は,経験的拡散シミュレーションの最後に慣性更新を適用することで,記憶の問題を解くことができることを示す。
このモデルから得られたサンプルの分布は、次元$d$の$C2$多様体上の真のデータ分布を、位数$O(n-frac2d+4)$のWasserstein-1距離内で近似することを示した。
論文 参考訳(メタデータ) (2025-05-05T09:40:41Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Particle Denoising Diffusion Sampler [32.310922004771776]
Particle Denoising Diffusion Sampler (PDDS) は、軽微な仮定の下で一貫した推定を提供する。
マルチモーダルおよび高次元サンプリングタスクにおけるPDDSの実証を行った。
論文 参考訳(メタデータ) (2024-02-09T11:01:35Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2~5倍の速さでトレーニングを行う。
論文 参考訳(メタデータ) (2024-02-09T01:11:23Z) - Denoising Diffusion Samplers [41.796349001299156]
拡散モデルの認知は、多くの領域で最先端の結果を提供する生成モデルの一般的なクラスである。
我々は、非正規化確率密度関数から大まかにサンプリングし、それらの正規化定数を推定する類似のアイデアを探求する。
この文脈ではスコアマッチングは適用できないが、モンテカルロサンプリングのために生成的モデリングで導入された多くのアイデアを利用することができる。
論文 参考訳(メタデータ) (2023-02-27T14:37:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。