論文の概要: Preconditioned Regularized Wasserstein Proximal Sampling
- arxiv url: http://arxiv.org/abs/2509.01685v1
- Date: Mon, 01 Sep 2025 18:04:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-04 15:17:03.815042
- Title: Preconditioned Regularized Wasserstein Proximal Sampling
- Title(参考訳): プレコンディショニングによる正規化ワッサースタイン近位サンプリング
- Authors: Hong Ye Tan, Stanley Osher, Wuchen Li,
- Abstract要約: 我々は、有限個の粒子を進化させることにより、ノイズフリー分布からのサンプリングを検討する。
ポテンシャルに対しては、非漸近収束解析と、正規化に依存する偏りを明確にする。
- 参考スコア(独自算出の注目度): 2.7957842724446174
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider sampling from a Gibbs distribution by evolving finitely many particles. We propose a preconditioned version of a recently proposed noise-free sampling method, governed by approximating the score function with the numerically tractable score of a regularized Wasserstein proximal operator. This is derived by a Cole--Hopf transformation on coupled anisotropic heat equations, yielding a kernel formulation for the preconditioned regularized Wasserstein proximal. The diffusion component of the proposed method is also interpreted as a modified self-attention block, as in transformer architectures. For quadratic potentials, we provide a discrete-time non-asymptotic convergence analysis and explicitly characterize the bias, which is dependent on regularization and independent of step-size. Experiments demonstrate acceleration and particle-level stability on various log-concave and non-log-concave toy examples to Bayesian total-variation regularized image deconvolution, and competitive/better performance on non-convex Bayesian neural network training when utilizing variable preconditioning matrices.
- Abstract(参考訳): 有限個の粒子の進化によるギブス分布からのサンプリングを検討する。
本稿では,正規化ワッサーシュタイン近似演算子の数値的トラクタブルスコアとスコア関数を近似した,最近提案されたノイズフリーサンプリング手法の事前条件付きバージョンを提案する。
これは結合した異方性熱方程式上のコールホップ変換によって導かれ、事前条件付き正規化ワッサーシュタイン近似の核定式化をもたらす。
提案手法の拡散成分は, 変圧器アーキテクチャのように, 修正された自己注意ブロックとして解釈される。
二次ポテンシャルに対しては、離散時間非漸近収束解析を提供し、正則化に依存し、ステップサイズに依存しないバイアスを明示的に特徴づける。
実験では, 各種対数凹面および非対数凹面玩具の加速および粒子レベルの安定性をベイズ偏差正規化画像デコンボリューションに適用し, 可変プレコンディショニング行列を利用する場合の非凸ベイズニューラルネットワークトレーニングにおける競合・ベター性能を示した。
関連論文リスト
- Convergence of Deterministic and Stochastic Diffusion-Model Samplers: A Simple Analysis in Wasserstein Distance [0.0]
本稿では,拡散型生成モデルに対するワッサーシュタイン距離の収束保証を行い,DDPMライク(英語版)法とDDIMライク(英語版)法の両方をカバーする。
特に、Hun のサンプル値に対する最初の Wasserstein 収束を導出し、確率フローODE のサンプル値に対する既存の結果を改善する。
論文 参考訳(メタデータ) (2025-08-05T08:37:58Z) - Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。
本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-03-04T17:46:51Z) - Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation [58.19676004192321]
ノイズからの画像生成とデータからの逆変換の両方を可能にする拡散モデル (DM) は、強力な未ペア画像対イメージ(I2I)翻訳アルゴリズムにインスピレーションを与えている。
我々は、最小輸送コストの分布間の微分方程式(SDE)であるSchrodinger Bridges (SBs) を用いてこの問題に取り組む。
この観測に触発されて,SB ODE を予め訓練した安定拡散により近似する潜在シュロディンガー橋 (LSB) を提案する。
提案アルゴリズムは,従来のDMのコストをわずかに抑えながら,教師なし環境での競合的I2I翻訳を実現していることを示す。
論文 参考訳(メタデータ) (2024-11-22T11:24:14Z) - Weak Generative Sampler to Efficiently Sample Invariant Distribution of Stochastic Differential Equation [8.67581853745823]
本稿では, 弱い生成サンプル(WGS)を用いて, 独立かつ同一に分布したサンプルを直接生成するフレームワークを提案する。
提案した損失関数はFokker-Planck方程式の弱い形式に基づいている。
論文 参考訳(メタデータ) (2024-05-29T16:41:42Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Restoration-Degradation Beyond Linear Diffusions: A Non-Asymptotic
Analysis For DDIM-Type Samplers [90.45898746733397]
本研究では拡散生成モデルに用いる決定論的サンプリング器の非漸近解析のためのフレームワークを開発する。
確率フローODEに沿った1ステップは,1) 条件付き対数線上を無限に先行して上昇する回復ステップ,2) 雑音を現在の勾配に向けて前向きに進行する劣化ステップの2段階で表すことができる。
論文 参考訳(メタデータ) (2023-03-06T18:59:19Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。