論文の概要: De-randomizing MCMC dynamics with the diffusion Stein operator
- arxiv url: http://arxiv.org/abs/2110.03768v1
- Date: Thu, 7 Oct 2021 19:59:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-11 13:52:23.023277
- Title: De-randomizing MCMC dynamics with the diffusion Stein operator
- Title（参考訳）: 拡散シュタイン作用素を用いた非ランダム化MCMCダイナミクス
- Authors: Zheyang Shen, Markus Heinonen, Samuel Kaski
- Abstract要約: 近似ベイズ推定は、難解な対象分布の記述子を推定する。
MCMC動力学として知られる拡散型全試料に対して,非ランダム化されたカーネル型粒子サンプリング器を提案する。
- 参考スコア（独自算出の注目度）: 21.815713258703575
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Approximate Bayesian inference estimates descriptors of an intractable target
distribution - in essence, an optimization problem within a family of
distributions. For example, Langevin dynamics (LD) extracts asymptotically
exact samples from a diffusion process because the time evolution of its
marginal distributions constitutes a curve that minimizes the KL-divergence via
steepest descent in the Wasserstein space. Parallel to LD, Stein variational
gradient descent (SVGD) similarly minimizes the KL, albeit endowed with a novel
Stein-Wasserstein distance, by deterministically transporting a set of particle
samples, thus de-randomizes the stochastic diffusion process. We propose
de-randomized kernel-based particle samplers to all diffusion-based samplers
known as MCMC dynamics. Following previous work in interpreting MCMC dynamics,
we equip the Stein-Wasserstein space with a fiber-Riemannian Poisson structure,
with the capacity of characterizing a fiber-gradient Hamiltonian flow that
simulates MCMC dynamics. Such dynamics discretizes into generalized SVGD
(GSVGD), a Stein-type deterministic particle sampler, with particle updates
coinciding with applying the diffusion Stein operator to a kernel function. We
demonstrate empirically that GSVGD can de-randomize complex MCMC dynamics,
which combine the advantages of auxiliary momentum variables and Riemannian
structure, while maintaining the high sample quality from an interacting
particle system.
- Abstract（参考訳）: 近似ベイズ推定は、難解な対象分布のディスクリプタを推定する - 本質的には、分布の族内の最適化問題である。
例えば、ランゲヴィン力学(LD)は拡散過程から漸近的に正確なサンプルを抽出する、なぜならその限界分布の時間的発展は、ワッサーシュタイン空間の最も急降下によるKL偏差を最小化する曲線を構成するからである。
LDと平行して、スタイン変分勾配降下(SVGD)も同様にKLを最小化するが、新しいシュタイン-ワッサーシュタイン距離は、一組の粒子サンプルを決定的に輸送することで、確率拡散過程を非ランダム化する。
MCMC動力学として知られる拡散型全試料に対する非ランダム化カーネルベース粒子サンプリング器を提案する。
MCMCの力学を解釈する以前の研究に続いて、我々はシュタイン=ヴァッサーシュタイン空間にファイバー-リーマン・ポアソン構造を持ち、MCMCの力学をシミュレートする繊維勾配ハミルトン流を特徴づける能力を持つ。
このような力学は一般化されたSVGD(Stein-type deterministic Particle sampler)に離散化され、粒子の更新は拡散シュタイン作用素をカーネル関数に適用することで行われる。
実験により,gsvgdは相互作用粒子系から高いサンプル品質を維持しつつ,補助運動量変数とリーマン構造を組み合わせた複雑なmcmcダイナミクスを非ランダム化できることを実証した。
関連論文リスト
- Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳（メタデータ） (2024-07-10T17:39:50Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳（メタデータ） (2024-05-18T15:59:41Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2～5倍の速さでトレーニングを行う。
論文 参考訳（メタデータ） (2024-02-09T01:11:23Z) - Sampling in Unit Time with Kernel Fisher-Rao Flow [0.0]
非正規化対象密度からサンプリングするための平均場ODEと対応する相互作用粒子系(IPS)を導入する。
IPSは勾配のない閉形式であり、参照密度からサンプリングし、(正規化されていない)ターゲット-参照密度比を計算する能力のみを必要とする。
論文 参考訳（メタデータ） (2024-01-08T13:43:56Z) - Weighted Riesz Particles [0.0]
対象分布を、パラメータの無限次元空間が多くの決定論的部分多様体からなる写像と考える。
我々は、Rieszと呼ばれる点の性質を研究し、それをシーケンシャルMCMCに埋め込む。
低い評価で高い受け入れ率が得られることが分かりました。
論文 参考訳（メタデータ） (2023-12-01T14:36:46Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳（メタデータ） (2023-08-28T23:51:33Z) - Machine-Learned Exclusion Limits without Binning [0.0]
我々は、1次元信号と背景確率密度関数を抽出するためにカーネル密度推定器(KDE)を含むMLL法を拡張した。
本手法は,レプトン対に崩壊するエキゾチックヒッグス粒子の探索と,レプトン対に崩壊するZ'$ボソンの2例に適用する。
論文 参考訳（メタデータ） (2022-11-09T11:04:50Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳（メタデータ） (2022-10-24T16:54:18Z) - A blob method method for inhomogeneous diffusion with applications to
multi-agent control and sampling [0.6562256987706128]
重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。
提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
論文 参考訳（メタデータ） (2022-02-25T19:49:05Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳（メタデータ） (2021-02-04T02:21:08Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳（メタデータ） (2020-12-21T18:33:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。