論文の概要: Accelerated Regularized Wasserstein Proximal Sampling Algorithms
- arxiv url: http://arxiv.org/abs/2601.09848v1
- Date: Wed, 14 Jan 2026 20:08:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-16 19:43:18.884044
- Title: Accelerated Regularized Wasserstein Proximal Sampling Algorithms
- Title(参考訳): 加速度正規化ワッサースタイン近距離サンプリングアルゴリズム
- Authors: Hong Ye Tan, Stanley Osher, Wuchen Li,
- Abstract要約: ブラウン運動ではなく、特定のスコア推定器を用いて有限個の粒子を進化させることにより、ギブス分布からのサンプリングを検討する。
我々は最近提案された正規化ワッセルシュタイン近似法, 加速度化正規化ワッセルシュタイン近似法(ARWP)を用いる。
ARWPは、非加速正規化ワッサーシュタイン近位法や速度論的ランゲヴィン法よりも、構造化され収束した粒子、加速された離散時間混合、高速尾探索を示す。
- 参考スコア(独自算出の注目度): 2.7957842724446174
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider sampling from a Gibbs distribution by evolving a finite number of particles using a particular score estimator rather than Brownian motion. To accelerate the particles, we consider a second-order score-based ODE, similar to Nesterov acceleration. In contrast to traditional kernel density score estimation, we use the recently proposed regularized Wasserstein proximal method, yielding the Accelerated Regularized Wasserstein Proximal method (ARWP). We provide a detailed analysis of continuous- and discrete-time non-asymptotic and asymptotic mixing rates for Gaussian initial and target distributions, using techniques from Euclidean acceleration and accelerated information gradients. Compared with the kinetic Langevin sampling algorithm, the proposed algorithm exhibits a higher contraction rate in the asymptotic time regime. Numerical experiments are conducted across various low-dimensional experiments, including multi-modal Gaussian mixtures and ill-conditioned Rosenbrock distributions. ARWP exhibits structured and convergent particles, accelerated discrete-time mixing, and faster tail exploration than the non-accelerated regularized Wasserstein proximal method and kinetic Langevin methods. Additionally, ARWP particles exhibit better generalization properties for some non-log-concave Bayesian neural network tasks.
- Abstract(参考訳): ブラウン運動ではなく、特定のスコア推定器を用いて有限個の粒子を進化させることにより、ギブス分布からのサンプリングを検討する。
粒子を加速するために、Nesterov加速度と同様の2次スコアベースODEを考える。
従来のカーネル密度スコア推定とは対照的に、最近提案された正規化ワッサースタイン近似法を用いて、加速度化正規化ワッサースタイン近似法(ARWP)を導出する。
ユークリッド加速度と加速度情報勾配の手法を用いて,ガウスの初期分布と目標分布の連続的および離散的時間的非漸近的および漸近的混合速度を詳細に解析する。
速度論的ランゲヴィンサンプリングアルゴリズムと比較して, 提案アルゴリズムは漸近時間系において高い収縮率を示す。
数値実験は多モードガウス混合や未条件のローゼンブロック分布を含む様々な低次元実験にまたがる。
ARWPは、非加速正規化ワッサーシュタイン近位法や速度論的ランゲヴィン法よりも、構造化され収束した粒子、加速された離散時間混合、高速尾探索を示す。
さらに、ARWP粒子は、非対数のベイズニューラルネットワークタスクに対してより良い一般化特性を示す。
関連論文リスト
- Momentum Particle Maximum Likelihood [2.4561590439700076]
自由エネルギー関数を最小化するための類似の力学系に基づくアプローチを提案する。
システムを離散化することにより、潜在変数モデルにおける最大推定のための実用的なアルゴリズムを得る。
このアルゴリズムは既存の粒子法を数値実験で上回り、他のMLEアルゴリズムと比較する。
論文 参考訳(メタデータ) (2023-12-12T14:53:18Z) - Proximal Algorithms for Accelerated Langevin Dynamics [57.08271964961975]
我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-11-24T19:56:01Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - PAPAL: A Provable PArticle-based Primal-Dual ALgorithm for Mixed Nash Equilibrium [58.26573117273626]
2プレイヤゼロサム連続ゲームにおける非AL平衡非漸近目的関数について考察する。
連続分布戦略のための粒子ベースアルゴリズムに関する新しい知見を述べる。
論文 参考訳(メタデータ) (2023-03-02T05:08:15Z) - Reweighted Interacting Langevin Diffusions: an Accelerated Sampling
Methodfor Optimization [28.25662317591378]
本稿では, サンプリング手法を高速化し, 難解な最適化問題の解法を提案する。
提案手法は, 後部分布サンプリングとLangevin Dynamicsを用いた最適化の関連性について検討する。
論文 参考訳(メタデータ) (2023-01-30T03:48:20Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Hessian-Free High-Resolution Nesterov Acceleration for Sampling [55.498092486970364]
最適化のためのNesterovのAccelerated Gradient(NAG)は、有限のステップサイズを使用する場合の連続時間制限(ノイズなしの運動的ランゲヴィン)よりも優れたパフォーマンスを持つ。
本研究は, この現象のサンプリング法について検討し, 離散化により加速勾配に基づくMCMC法が得られる拡散過程を提案する。
論文 参考訳(メタデータ) (2020-06-16T15:07:37Z) - Average-case Acceleration Through Spectral Density Estimation [35.01931431231649]
ランダム2次問題の平均ケース解析のためのフレームワークを開発する。
この分析で最適なアルゴリズムを導出する。
我々は, 均一性, マルテンコ・パストゥル, 指数分布の明示的アルゴリズムを開発した。
論文 参考訳(メタデータ) (2020-02-12T01:44:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。